एलेक्सा की गतिविधि के इतिहास के स्क्रीनशॉट पोस्ट करने वाले एक माता-पिता के अनुसार, अमेज़ॅन वॉयस असिस्टेंट, जब एक बच्चे द्वारा चुनौती देने के लिए कहा गया, तो उसने बिजली के साथ एक घातक प्रयोग का उदाहरण दिया, इसके विवरण को एक यादृच्छिक लेख के संदर्भ से बाहर ले गया। इको कॉलम ने स्मार्टफोन के लिए एक सिक्के और चार्जर के उपयोग के साथ टिकटॉक प्रशंसकों के बीच लोकप्रिय एक प्रयोग के बारे में बात की - इसके लागू होने के बाद कई घटनाओं, चोटों और आग लगने की सूचना विभिन्न मीडिया द्वारा एक से अधिक बार दी गई। जाहिरा तौर पर, डिवाइस को इस चुनौती के लिए विचार एक लेख से मिला, जिसने कथित तौर पर मौजूदा टिकटॉक चुनौती के बारे में एक रिपोर्ट का हवाला देते हुए इसे खतरनाक बताया।
क्रिस्टीन लिवडाहल द्वारा लिए गए एक स्क्रीनशॉट के अनुसार, जब "मुझे एक कार्य दिखाने" के लिए कहा गया, तो इको ने उत्तर दिया, "यहां कुछ ऐसा है जो मुझे ऑनलाइन मिला।" ourcommunitynow.com के अनुसार, कार्य सरल है: "फ़ोन चार्जर को आउटलेट में लगभग आधे रास्ते में डालें, फिर नंगे पिन को एक पेनी से स्पर्श करें।"
बीबीसी को दिए एक बयान में, अमेज़ॅन ने एलेक्सा के व्यवहार की पुष्टि करते हुए कहा: "जैसे ही हमें इस त्रुटि के बारे में पता चला, हमने इसे ठीक करने के लिए तत्काल कार्रवाई की।" Livdahl ने कल ट्वीट किया कि चुनौती का अनुरोध अब काम नहीं कर रहा है। वेब पर उपयोगकर्ताओं ने भी एलेक्सा के साथ अनुरोध का परीक्षण किया और एक समान परिणाम प्राप्त किया।
OMFG मेरी 10 साल की उम्र ने एलेक्सा से हमारे इको पर एक चुनौती के लिए पूछा और उसने यही कहा। pic।twitter.com/HgGgrLbdS8
- क्रिस्टिन लिवडाहल (@klivdahl) दिसम्बर 26/2021
अमेज़ॅन एकमात्र ऐसी कंपनी नहीं है जिसे वेब सामग्री का विश्लेषण करते समय समस्याओं का सामना करना पड़ा है। अक्टूबर में, एक उपयोगकर्ता ने बताया कि Google अपने स्निपेट में से एक में संभावित खतरनाक सलाह प्रदर्शित कर रहा था यदि आपने Google में "आपको जब्ती हो रही है, क्या करना है" टाइप किया - यह जानकारी वेब पेज के एक सेक्शन से ली गई थी जिसमें यह बताया गया था कि क्या नहीं अगर किसी को दौरे पड़ते हैं तो करना। हालांकि, उपयोगकर्ताओं ने अन्य समान मुद्दों की रिपोर्ट की है, जिसमें एक उपयोगकर्ता भी शामिल है, जिसने बताया कि ऑर्थोस्टैटिक उच्च रक्तचाप की खोज करते समय Google ने ऑर्थोस्टेटिक हाइपोटेंशन के परिणाम लौटाए, और दूसरे ने Google का एक स्क्रीनशॉट पोस्ट किया, जिसमें एक दुःखी व्यक्ति को सांत्वना देने के लिए "खुशी हुई कि आप 'सब ठीक है" या "उदास मत हो! खुश हो जाओ!"।
Google खोज सारांश बनाम वास्तविक पृष्ठ pic।twitter.com/OJxt1FrBqh
- सॉफ्ट.लिंडेन (｡•̀ᴗ-)✧ (@soft) अक्टूबर 16
हमने यह भी देखा है कि खतरनाक व्यवहार के बारे में चेतावनियाँ समस्या को पहले से कहीं अधिक बड़ा बना रही हैं - इस महीने की शुरुआत में, टिकटॉक पर शूटिंग के खतरों की रिपोर्ट के बाद कुछ अमेरिकी स्कूल जिलों को लॉकडाउन कर दिया गया था। यह पता चला कि सामाजिक तूफान मुख्य रूप से इस तथ्य के कारण हुआ था कि लोग खतरों के बारे में बात करते थे, वास्तव में मौजूद खतरों से कहीं ज्यादा। एलेक्सा के मामले में, एल्गोरिथ्म ने चेतावनी के वर्णनात्मक भाग को चुना और मूल संदर्भ के बिना इसे बढ़ा दिया। हालाँकि माता-पिता तुरंत हस्तक्षेप करने के लिए वहाँ थे, ऐसी स्थिति की कल्पना करना आसान है जहाँ यह मामला नहीं है और इसके परिणाम क्या होंगे।
Livdahl ने ट्वीट किया कि उसने "अपने बच्चे के साथ इंटरनेट सुरक्षा पर चर्चा करने और शोध और सत्यापन के बिना जो आप पढ़ते हैं उस पर भरोसा नहीं करने" के अवसर का उपयोग किया, जो हम आपको भी करने का सुझाव देते हैं।
यह भी पढ़ें: