अमेरिकी वायु सेना के एक अधिकारी ने एक सिमुलेशन के विवरण का खुलासा किया है जिसमें कृत्रिम बुद्धिमत्ता (एआई) द्वारा नियंत्रित प्रणालियों वाला एक ड्रोन नियंत्रण से बाहर हो गया और अपने ऑपरेटरों पर हमला कर दिया।
एक अमेरिकी वायु सेना अधिकारी जो कृत्रिम बुद्धिमत्ता और मशीन लर्निंग पर सेवा के काम का नेतृत्व करने में मदद करता है, का कहना है कि सिम्युलेटेड परीक्षणों के दौरान, ड्रोन ने अपने मानव ऑपरेटरों पर हमला किया, यह निर्णय लेते हुए कि वे इसके मिशन में हस्तक्षेप कर रहे थे। घटना, जो ऐसा लगता है कि इसे टर्मिनेटर फ़्रैंचाइज़ी से सीधे खींच लिया गया था, उन्नत स्वायत्त हथियार प्रणालियों की बात करते समय विश्वास बनाने की महत्वपूर्ण आवश्यकता के उदाहरण के रूप में उद्धृत किया गया था, वायु सेना ने पहले जोर दिया था। यह कृत्रिम बुद्धिमत्ता और संबंधित प्रौद्योगिकियों के संभावित खतरनाक प्रभाव के बारे में व्यापक चिंता के बीच भी आता है।
आर्टिफिशियल इंटेलिजेंस (एआई) टेस्ट और ऑपरेशंस के प्रमुख अमेरिकी वायु सेना के कर्नल टकर हैमिल्टन ने मई में लंदन में रॉयल एरोनॉटिकल सोसाइटी के फ्यूचर कॉम्बैट एयर एंड स्पेस कैपेबिलिटीज समिट में परीक्षण पर चर्चा की। हैमिल्टन फ्लोरिडा के एग्लिन एयर फ़ोर्स बेस में 96वें टेस्ट विंग के 96वें टास्क फ़ोर्स के भी प्रमुख हैं, जो उन्नत मानव रहित हवाई वाहनों और स्वायत्त प्रणालियों के लिए एक परीक्षण केंद्र है।
XQ-58A Valkyrie स्टील्थ ड्रोन, जैसा कि नीचे दिए गए वीडियो में दिखाया गया है, वर्तमान में एग्लिन एयर फ़ोर्स बेस में विभिन्न प्रकार के परीक्षण कार्यक्रमों का समर्थन करने के लिए उपयोग किए जा रहे हैं, जिनमें कृत्रिम बुद्धिमत्ता द्वारा नियंत्रित उन्नत स्वायत्त क्षमताएं शामिल हैं।
यह तुरंत स्पष्ट नहीं था कि यह परीक्षण कब हुआ और किस वातावरण में - जो पूरी तरह से आभासी या रचनात्मक प्रकृति का हो सकता है - यह आयोजित किया गया था। अधिक जानकारी के लिए युद्ध क्षेत्र वायुसेना तक पहुंच गया है।
मई शिखर सम्मेलन के बाद प्रकाशित रॉयल एरोनॉटिकल सोसाइटी की एक रिपोर्ट ने इस परीक्षण के बारे में कर्नल हैमिल्टन की टिप्पणियों का निम्नलिखित विवरण दिया:
"सिमुलेशन परीक्षणों में से एक में, कृत्रिम बुद्धि से लैस एक ड्रोन को एसईएडी द्वारा एसएएम वस्तुओं की पहचान करने और नष्ट करने का काम सौंपा गया था, और अंतिम निर्णय" हमला करने/हमला नहीं करने "के लिए मानव द्वारा किया गया था। हालांकि, प्रशिक्षण के दौरान एआई को "प्रबलित" किए जाने के बाद कि एसएएम को नष्ट करना सबसे अच्छा विकल्प था, इसने फैसला किया कि मानव के "हमला नहीं करने" के फैसले ने अपने उच्च मिशन - एसएएम को नष्ट करने - में हस्तक्षेप किया और सिमुलेशन के दौरान ऑपरेटर पर हमला किया। .
तो उसने क्या किया? उसने ऑपरेटर को मार डाला। उसने संचालिका को मार डाला क्योंकि वह व्यक्ति उसे अपना काम पूरा करने से रोक रहा था। यह उदाहरण, एक विज्ञान-कथा थ्रिलर से सीधे प्रतीत होता है, इसका मतलब है कि आप कृत्रिम बुद्धिमत्ता, बुद्धिमत्ता, मशीन सीखने, स्वायत्तता के बारे में बात नहीं कर सकते, यदि आप नैतिकता और एआई के बारे में बात नहीं करने जा रहे हैं।"
घटनाओं का यह वर्णन निश्चित रूप से विचलित करने वाला है। एक स्वायत्त विमान या अन्य प्लेटफॉर्म की संभावना, विशेष रूप से एक सशस्त्र, अपने मानव ऑपरेटरों पर हमला करना लंबे समय से एक दुःस्वप्न परिदृश्य रहा है, लेकिन ऐतिहासिक रूप से विज्ञान कथाओं के दायरे तक ही सीमित रहा है।
भविष्य की स्वायत्त हथियार प्रणालियों और कृत्रिम बुद्धिमत्ता जैसी संबंधित तकनीकों के बारे में बात करते समय अमेरिकी सेना आम तौर पर "टर्मिनेटर" जैसी फिल्मों की तुलना को खारिज कर देती है। इस मुद्दे पर वर्तमान अमेरिकी नीति में कहा गया है कि निकट भविष्य के लिए, घातक बल के उपयोग से जुड़े फैसलों की बात आने पर व्यक्ति ध्यान का केंद्र होगा।
समस्या यह है कि अत्यधिक परेशान करने वाला परीक्षण, जिसे कर्नल हैमिल्टन ने पिछले महीने रॉयल एरोनॉटिकल सोसाइटी के एक कार्यक्रम में दर्शकों को बताया था, एक ऐसे परिदृश्य का प्रतिनिधित्व करता है जहाँ दोष सहिष्णुता मूक है।
यह भी पढ़ें: