Google ने अपनी छवि-लेबलिंग तकनीक से गोरिल्ला को हटाकर अपने नस्लवादी एल्गोरिदम को 'निश्चित' किया

कंपनी को बुलाए जाने के लगभग तीन साल बाद, यह एक त्वरित समाधान से आगे नहीं बढ़ पाया है

Google फ़ोटो में AI एल्गोरिदम छवियों को कई श्रेणियों के अनुसार क्रमबद्ध करता है।



चाकू वर्जित
वजेरन पैविक / द वर्ज द्वारा फोटो

2015 में वापस, सॉफ्टवेयर इंजीनियर जैकी अलसीनबतायाकि Google फ़ोटो में छवि पहचान एल्गोरिदम उसके अश्वेत मित्रों को गोरिल्ला के रूप में वर्गीकृत कर रहे थे। Google ने कहा कि वह गलती से स्तब्ध था, उसने एल्सीन से माफी मांगी और समस्या को ठीक करने का वादा किया। लेकिन, एक के रूप मेंसे नई रिपोर्टवायर्ड दिखाता है, लगभग तीन साल और Google ने वास्तव में कुछ भी तय नहीं किया है। कंपनी ने अपनी छवि पहचान एल्गोरिदम को पूरी तरह से गोरिल्ला की पहचान करने से रोक दिया है - प्राथमिकता, संभवतः, एक और गलत वर्गीकरण के जोखिम के बजाय सेवा को सीमित करने के लिए।



वायर्डका कहना है कि इसने Google फ़ोटो के एल्गोरिथम पर कई परीक्षण किए, सेवा में विभिन्न प्राइमेट की हज़ारों तस्वीरें अपलोड कीं। बबून, गिबन्स और मर्मोसेट सभी सही ढंग से पहचाने गए थे, लेकिन गोरिल्ला और चिंपैंजी नहीं थे। प्रकाशन ने यह भी पाया कि Google ने अन्य नस्लीय श्रेणियों में अपनी AI मान्यता को प्रतिबंधित कर दिया था। उदाहरण के लिए, अश्वेत पुरुष या अश्वेत महिला की खोज करना, केवल श्वेत और श्याम रंग में लोगों की तस्वीरें लौटाता है, जो लिंग के आधार पर क्रमित होती हैं, लेकिन जाति के अनुसार नहीं।

Google के एक प्रवक्ता ने पुष्टि कीवायर्डकि छवि श्रेणियां गोरिल्ला, चिंपांजी, चिंपैंजी और बंदर 2015 में एल्सीन के ट्वीट के बाद Google फ़ोटो पर अवरुद्ध रहे। छवि लेबलिंग तकनीक अभी भी शुरुआती है और दुर्भाग्य से यह कहीं भी सही नहीं है, प्रतिनिधि ने कहा। श्रेणियां अभी भी अन्य Google सेवाओं पर उपलब्ध हैं, हालांकि, क्लाउड विजन एपीआई सहित यह अन्य कंपनियों और Google सहायक को बेचता है।

यह अजीब लग सकता है कि Google, एक कंपनी जिसे आम तौर पर वाणिज्यिक AI में अग्रदूत के रूप में देखा जाता है, इस त्रुटि का अधिक संपूर्ण समाधान नहीं कर पाई। लेकिन यह एक अच्छा अनुस्मारक है कि एआई सॉफ्टवेयर को सुसंगत और मजबूत बनाने के लिए प्रशिक्षित करना कितना मुश्किल हो सकता है। विशेष रूप से (जैसा कि कोई मान सकता है कि Google फ़ोटो गलती के मामले में हुआ था) जब उस सॉफ़्टवेयर को विभिन्न लोगों के समूह द्वारा प्रशिक्षित और परीक्षण नहीं किया जाता है।

इस मामले में यह स्पष्ट नहीं है कि क्या Google फ़ोटो एल्गोरिदम इस तरह से प्रतिबंधित रहता है क्योंकि Google समस्या को ठीक नहीं कर सका, ऐसा करने के लिए संसाधनों को समर्पित नहीं करना चाहता था, या केवल सावधानी की अधिकता दिखा रहा है। लेकिन यह स्पष्ट है कि इस तरह की घटनाएं, जो अक्सर द्वीपीय सिलिकॉन वैली संस्कृति को प्रकट करती हैं, जिसने खुद को विश्व-व्यापी एल्गोरिदम बनाने का काम सौंपा है, को त्वरित सुधार की आवश्यकता है।