Google "निश्चित" नस्लवादी छवि पहचान एल्गोरिदम ... अक्षम करके

2015 में वापस, सॉफ्टवेयर इंजीनियर जैकी अलसिन ने जनता को बताया कि Google फ़ोटो में छवि पहचान एल्गोरिदम गलत तरीके से काम कर रहे थे और अफ्रीकी अमेरिकियों को "गोरिल्ला" के रूप में वर्गीकृत कर रहे थे। बदले में, Google ने उपयोगकर्ताओं की आहत भावनाओं के लिए माफी मांगी और त्रुटि को ठीक करने का वादा किया। लेकिन व्यवहार में यह पता चला कि Google ने तीन साल तक कुछ नहीं किया। कंपनी ने अपनी प्रतिष्ठा को जोखिम में न डालने के लिए गोरिल्ला पहचान एल्गोरिथ्म को अभी बंद कर दिया है।

थोड़ी देर बाद, वायर्ड से एक संदेश आया। उनके प्रयासों के माध्यम से, सेवा में विभिन्न प्राइमेट्स की हजारों तस्वीरें अपलोड करके Google फोटो एल्गोरिदम का परीक्षण किया गया। उनमें से थे: बबून, गिब्बन, बंदर, गोरिल्ला और चिंपैंजी। जानवरों की पहली तीन श्रेणियों की सही पहचान की गई थी, लेकिन गोरिल्ला और चिंपैंजी के लिए, उनकी पहचान गायब थी। साथ ही, परीक्षण के दौरान, यह पाया गया कि Google ने नस्लवादी प्रश्नों के लिए AI को ट्वीक किया था। उदाहरण के लिए, "ब्लैक मैन" या "ब्लैक वुमन" की खोज करते समय, लिंग के आधार पर काले और सफेद कपड़ों में लोगों की तस्वीरें प्रदर्शित की गईं।

Google के एक प्रतिनिधि ने वायर्ड द्वारा किए गए परीक्षणों के परिणामों की पुष्टि की, जो प्राइमेट श्रेणियों से संबंधित थे, और रिपोर्ट किया कि उन्हें अवरुद्ध कर दिया गया था। प्रतिनिधि के अनुसार, यह स्पष्ट हो जाता है कि छवि पहचान तकनीक परिपूर्ण से बहुत दूर है। और अवरुद्ध श्रेणियां अभी भी Google सेवाओं जैसे क्लाउड विजन एपीआई और Google सहायक में उपलब्ध हैं।

यह आश्चर्यजनक लग सकता है कि वाणिज्यिक दिग्गज Google इस समस्या के बेहतर समाधान के साथ नहीं आया है। लेकिन यह गलती एक अच्छे अनुस्मारक के रूप में कार्य करती है कि एआई को पढ़ाना कितना मुश्किल है जब यह अभी भी विकास में है और विशेषज्ञों के एक पैनल द्वारा परीक्षण नहीं किया गया है।

यह स्पष्ट नहीं है कि भविष्य में Google अपने एल्गोरिदम को बेहतर बनाने के लिए क्या करेगा, क्योंकि उनमें पर्याप्त से अधिक खामियां हैं और उन्हें खत्म करने के लिए उन्हें तत्काल उपायों की आवश्यकता है।

Dzherelo: theverge.com