एआई द्वारा उत्पन्न पेंटागन के पास एक "विस्फोट" की एक तस्वीर में वायरल हो गई Twitter

हाल ही में Twitter एक तस्वीर सामने आई, जैसा कि विवरण में कहा गया है, पेंटागन के पास हुए एक विस्फोट को दर्शाया गया है। इस वजह से, बाजार में एक छोटी अवधि की गिरावट भी आई - एस एंड पी 500 इंडेक्स 0,29% गिर गया, लेकिन यह पता चला कि तस्वीर नकली थी, सूचकांक ठीक हो गया। छवि को एक सत्यापित ब्लूमबर्ग फ़ीड खाते द्वारा पोस्ट किया गया था, जो अपने नीले चेकमार्क के बावजूद, ब्लूमबर्ग मीडिया कंपनी से संबद्ध नहीं है।

फोटो को जल्दी ही नकली के रूप में पहचाना गया। जाहिर तौर पर इसे आर्टिफिशियल इंटेलिजेंस की मदद से तैयार किया गया था। लेकिन इन विवरणों के सामने आने से पहले ही विभिन्न खातों द्वारा गलत सूचना फैला दी गई थी, जिसमें बदमाश रूस टुडे (खैर, कौन संदेह करेगा) शामिल है।

नकली छवि एक इमारत के बगल में काले धुएं का एक बड़ा ढेर दिखाती है जो पाठ के साथ पेंटागन जैसा दिखता है। करीब से निरीक्षण करने पर, स्थानीय अधिकारियों ने पुष्टि की कि छवि पेंटागन का सटीक प्रतिनिधित्व नहीं थी, और धुंधले बाड़ पोस्ट और बिल्डिंग कॉलम स्टेबल डिफ्यूजन जैसे एआई मॉडल का उपयोग करके बनाई गई बल्कि एक टेढ़ी-मेढ़ी छवि की तरह लग रहे थे।

ब्लूमबर्ग फर्जी खाता पहले Twitter ब्लॉक कर दिया, उसके हजारों ट्वीट थे, लेकिन कुल 1 से कम फॉलोअर्स थे, और यह स्पष्ट नहीं है कि इसे किसने चलाया या नकली छवि के पीछे क्या प्रेरणा थी। ब्लूमबर्ग फीड के अलावा, गलत संदेश फैलाने वाले अन्य खातों में वाल्टर ब्लूमबर्ग और ब्रेकिंग मार्केट न्यूज शामिल हैं, जो वास्तविक ब्लूमबर्ग कंपनी से संबद्ध नहीं हैं।

इस घटना ने उन संभावित खतरों को उजागर किया जो एआई-जनित छवियां सोशल मीडिया पर उत्पन्न हो सकती हैं, जहां असत्यापित जानकारी जल्दबाजी में साझा की जाती है, और भुगतान सत्यापन प्रणाली में Twitter. मार्च में, मिडजर्नी का उपयोग करके बनाई गई डोनाल्ड ट्रम्प की गिरफ्तारी की नकली तस्वीरें वायरल हुईं, और जब उन्हें तुरंत नकली कहा गया, तो वे बेहद यथार्थवादी दिखीं। इसके अलावा, कई लोगों को सफेद जैकेट में पोप फ्रांसिस की एआई-जनित छवियों से गुमराह किया गया था।

"ब्लूमबर्गफीड" खाते पर अब प्रतिबंध लगा दिया गया है।

लेकिन यह सिर्फ एक तिल-तिल का खेल बनने जा रहा है।

नकली एआई छवियां + सत्यापित नकली समाचार Twitter खाता + मुख्यधारा मीडिया अपनी खटास की जाँच नहीं कर रहा हैces = हमारे डिजिटल समाज में आपदा का एक नुस्खा।

यह धीमा नहीं होगा। pic।twitter.com/ZeboVgVm4Z

- लोरेंजो ग्रीन 〰️ (@mrgreen) 23 मई 2023

डाउन जैकेट में पोप एक बात है, लेकिन अमेरिकी रक्षा विभाग के मुख्यालय में एक विस्फोट काफी अलग है। परिणाम गंभीर हो सकते हैं, जैसा कि वही शेयर बाजार साबित करता है। डॉव जोन्स इंडस्ट्रियल एवरेज ट्वीट के वायरल होने के चार मिनट में 85 अंक गिर गया, लेकिन जल्दी ही ठीक हो गया।

नकली ट्वीट को लेकर भ्रम की स्थिति में बदलाव से संभव हुआ Twitter एलोन मस्क के समय में। उन्होंने कई सामग्री मॉडरेटरों को निकाल दिया और खाता सत्यापन प्रक्रिया को काफी हद तक स्वचालित कर दिया, इसे एक ऐसे सिस्टम में ले जाया गया जहां कोई भी नीले चेक के लिए भुगतान कर सकता है। आलोचकों का कहना है कि यह अभ्यास मंच को गलत सूचना के प्रति अधिक संवेदनशील बनाता है।

हालांकि अधिकारी विस्फोट की तस्वीर को नकली के रूप में पहचानने में अपेक्षाकृत जल्दी थे, छवि संश्लेषण मॉडल जैसे कि मिडजर्नी और स्टेबल डिफ्यूजन की उपलब्धता का मतलब है कि नकली को समझाने के लिए अब कलात्मकता की आवश्यकता नहीं है, गलत सूचना के लिए कुछ जगह छोड़कर। जैसे प्लेटफार्मों की वायरल प्रकृति के साथ नकली बनाने में आसानी Twitter, का मतलब है कि गलत जानकारी सत्यापित किए जाने की तुलना में तेजी से फैल सकती है।

इस मामले में, नकारात्मक प्रभाव पैदा करने के लिए छवि का उच्च गुणवत्ता वाला होना आवश्यक नहीं है। विशेषज्ञों का कहना है कि जब लोग किसी बात पर विश्वास करना चाहते हैं तो वे अपनी सतर्कता खो देते हैं और जानकारी की सत्यता की जांच नहीं करते हैं।

यह भी पढ़ें:

• मेटा की भाषा एआई 4 से अधिक भाषाओं को पहचानती है
• एडोब फोटोशॉप में एआई-पावर्ड जनरेटिव फिल एडिटिंग जोड़ता है