मंगलवार को, मेटा ने ओपनएआई और गूगल जैसी अन्य कंपनियों से एआई-जनित छवियों को टैग करना शुरू करने की अपनी योजना की घोषणा की। इस कदम का उद्देश्य जैसे प्लेटफार्मों पर पारदर्शिता बढ़ाना है Facebook, Instagram और थ्रेड्स, उपयोगकर्ताओं को यह सूचित करके कि वे जो सामग्री देख रहे हैं वह संश्लेषित डिजिटल मीडिया है, न कि कोई प्रामाणिक फोटो या वीडियो।
मेटा का समाधान लिखित संकेतों के आधार पर नकली लेकिन यथार्थवादी ऑडियो, चित्र और वीडियो बनाने में सक्षम जेनेरिक एआई मॉडल के साथ बनाई गई सामग्री को लेबल करने के लिए मानक निर्धारित करने के व्यापक तकनीकी उद्योग प्रयास का हिस्सा है।
मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने मेटा की वेबसाइट पर एक ब्लॉग पोस्ट में यह घोषणा की। क्लेग ने लिखा, "हम अगले साल भी इस दृष्टिकोण का पालन करना जारी रखेंगे, जब दुनिया भर में कई महत्वपूर्ण चुनाव होंगे।" "इस दौरान, हम इस बारे में बहुत कुछ सीखने की उम्मीद करते हैं कि लोग कृत्रिम बुद्धिमत्ता के साथ सामग्री कैसे बनाते और साझा करते हैं, लोग किस पारदर्शिता को सबसे अधिक महत्व देते हैं, और ये प्रौद्योगिकियाँ कैसे विकसित हो रही हैं।"
क्लेग ने कहा कि मेटा की एआई-जनित सामग्री टैगिंग पहल अन्य कंपनियों की सेवाओं का उपयोग करके बनाई गई छवियों को शामिल करने के लिए अपने स्वयं के एआई टूल के साथ बनाई गई सामग्री को टैग करने की मौजूदा प्रथा का विस्तार करेगी।
“हम उद्योग-अग्रणी उपकरण बना रहे हैं जो बड़े पैमाने पर अदृश्य मार्करों की पहचान कर सकते हैं - विशेष रूप से C2PA और IPTC तकनीकी मानकों में 'एआई-जनरेटेड' जानकारी - ताकि हम Google, OpenAI से छवियों को टैग कर सकें। Microsoft, एडोब, मिडजर्नी और शटरस्टॉक अपने टूल द्वारा बनाई गई छवियों में मेटाडेटा जोड़ने की अपनी योजना को लागू कर रहे हैं।''
मेटा का कहना है कि एआई-जनरेटेड कंटेंट लेबलिंग तकनीक अदृश्य वॉटरमार्क और फाइलों में एम्बेडेड मेटाडेटा पर आधारित होगी। मेटा अपने सार्वजनिक एआई छवि जनरेटर के साथ बनाई गई छवियों में एक छोटा "इमेजिन्ड विद एआई" वॉटरमार्क जोड़ता है।
पोस्ट में, क्लेग ने एआई-जनित छवियों को विश्वसनीय रूप से लेबल करने की कंपनियों की क्षमता पर विश्वास व्यक्त किया, हालांकि उन्होंने कहा कि ऑडियो और वीडियो सामग्री को लेबल करने के उपकरण अभी भी विकास में हैं। इस बीच, मेटा को उपयोगकर्ताओं को संशोधित ऑडियो और वीडियो सामग्री को टैग करने की आवश्यकता होगी, ऐसा करने में विफलता के लिए अनिर्दिष्ट जुर्माना होगा।
उन्होंने लिखा, "हमें लोगों से इस प्रकटीकरण और लेबलिंग टूल का उपयोग करने की आवश्यकता होगी जब वे फोटोरिअलिस्टिक वीडियो या यथार्थवादी ध्वनि के साथ जैविक सामग्री पोस्ट करते हैं जिसे डिजिटल रूप से बनाया या बदला गया है, और यदि वे ऐसा नहीं करते हैं तो हम जुर्माना लगा सकते हैं।"
हालाँकि, क्लेग ने कहा कि वर्तमान में एआई-जनरेटेड टेक्स्ट को लेबल करने का कोई प्रभावी तरीका नहीं है, यह सुझाव देते हुए कि लिखित सामग्री के लिए ऐसे उपायों को लागू करने में बहुत देर हो चुकी है। यह हमारी रिपोर्ट के अनुरूप है कि एआई टेक्स्ट डिटेक्टर काम नहीं कर रहे हैं।
यह घोषणा मेटा के स्वतंत्र निरीक्षण बोर्ड द्वारा भ्रामक रूप से बदले गए वीडियो पर कंपनी की नीति को बहुत संकीर्ण बताते हुए आलोचना करने के एक दिन बाद आई और ऐसी सामग्री को हटाने के बजाय चिह्नित करने की सिफारिश की गई। क्लेग ने आलोचना से सहमति जताते हुए स्वीकार किया कि मौजूदा मेटा नीतियां इंटरनेट पर सिंथेटिक और हाइब्रिड सामग्री की बढ़ती मात्रा को प्रबंधित करने के लिए अपर्याप्त हैं। वह नई लेबलिंग पहल को वॉचडॉग की सिफारिशों को लागू करने और समान उपायों के लिए उद्योग-व्यापी गति को बढ़ावा देने की दिशा में एक कदम के रूप में देखता है।
मेटा स्वीकार करता है कि यह वॉटरमार्क या मेटाडेटा के बिना बनाई गई एआई-जनरेटेड सामग्री का पता लगाने में सक्षम नहीं होगा, जैसे कि कुछ ओपन सोर्स एआई छवि संश्लेषण टूल के साथ बनाई गई छवियां। मेटा स्टेबल सिग्नेचर नामक एक इमेज वॉटरमार्किंग तकनीक पर शोध कर रहा है और उसे उम्मीद है कि इसे ओपन सोर्स इमेज जेनरेटर में बनाया जा सकता है। लेकिन जब तक पिक्सेल पिक्सेल हैं, तब तक उन्हें ऐसे तरीकों से बनाया जा सकता है जो तकनीकी उद्योग द्वारा नियंत्रित नहीं होते हैं, और यह एआई सामग्री का पता लगाने के लिए एक चुनौती बनी हुई है क्योंकि ओपन सोर्स एआई उपकरण अधिक परिष्कृत और यथार्थवादी बन जाते हैं।
यह भी पढ़ें: