जब AI झूठ बोलता है: कैसे AI-संचालित चेहरे की पहचान करने वाले उपकरण ने पुलिस को एक व्यक्ति को गलत तरीके से दोषी ठहराने में मदद की

डेट्रॉइट शहर ने रॉबर्ट विलियम्स के साथ एक महत्वपूर्ण समझौता किया है, जिस पर दोषपूर्ण चेहरे की पहचान तकनीक के कारण दुकान में चोरी करने का गलत आरोप लगाया गया था। इस समझौते में विलियम्स को 300,000 डॉलर का भुगतान शामिल है और डेट्रॉइट पुलिस द्वारा अपनी जांच में चेहरे की पहचान के उपयोग के तरीके में बड़े बदलाव करने का आदेश दिया गया है।

यह मामला चेहरे की पहचान करने वाली तकनीक की विश्वसनीयता और निष्पक्षता, विशेषकर अश्वेत लोगों के प्रति इसके संभावित पूर्वाग्रहों के बारे में चल रही बहस को उजागर करता है।

विलियम्स, जो अफ्रीकी-अमेरिकी हैं, को सॉफ़्टवेयर द्वारा गलती से पहचान लिया गया था, जिसके कारण 2018 में शिनोला घड़ी की दुकान में एक दुकानदारी की घटना के लिए उन्हें गलत तरीके से गिरफ्तार कर लिया गया था। उनके ड्राइवर के लाइसेंस की तस्वीर को स्टोर के सुरक्षा वीडियो पर देखे गए व्यक्ति के संभावित मिलान के रूप में गलत तरीके से चिह्नित किया गया था।

अमेरिकन सिविल लिबर्टीज यूनियन (एसीएलयू) और मिशिगन लॉ स्कूल विश्वविद्यालय के नागरिक अधिकार मुकदमेबाजी पहल द्वारा घोषित इस समझौते को नागरिक अधिकार अधिवक्ताओं की जीत के रूप में देखा जा रहा है, जो तर्क देते हैं कि चेहरे की पहचान करने वाली तकनीक स्वाभाविक रूप से त्रुटिपूर्ण और नस्लीय रूप से पक्षपातपूर्ण है।

इस समझौते से न केवल विलियम्स को मुआवजा मिलेगा, बल्कि डेट्रॉयट पुलिस द्वारा प्रौद्योगिकी के उपयोग पर नए प्रतिबंध भी लगाए जाएंगे।

नए दिशा-निर्देशों के अनुसार, डेट्रायट पुलिस अधिकारियों को अब केवल चेहरे की पहचान के आधार पर लोगों को गिरफ़्तार करने की अनुमति नहीं होगी। इसके अलावा, वे चेहरे की पहचान से प्राप्त तस्वीरों के आधार पर गिरफ़्तारी नहीं कर पाएँगे।

इसके बजाय, तकनीक द्वारा प्रदान किए गए किसी भी सुराग की पुष्टि पारंपरिक जांच तकनीकों से की जानी चाहिए। ACLU के एक वकील फिल मेयर ने बताया कि इसका मतलब है कि पुलिस को चेहरे की पहचान से उत्पन्न किसी भी संदेह को पुष्ट करने के लिए अतिरिक्त सबूत इकट्ठा करने होंगे।

समझौते में 2017 से 2023 तक के उन मामलों की पूर्वव्यापी समीक्षा भी शामिल है, जिनमें चेहरे की पहचान करने वाली तकनीक का इस्तेमाल किया गया था। डेट्रायट पुलिस को इन मामलों की जांच करके यह निर्धारित करना होगा कि क्या कोई गिरफ़्तारी स्वतंत्र साक्ष्य के बिना की गई थी। अगर ऐसे मामले पाए जाते हैं, तो संभावित गलत दोषसिद्धि को संबोधित करने के लिए अभियोजक को सूचित किया जाएगा।

यह समझौता पिछले अगस्त में डेट्रॉयट पुलिस प्रमुख जेम्स व्हाइट द्वारा घोषित नीतिगत परिवर्तनों के बाद किया गया है, जो एक अन्य गलत गिरफ्तारी मामले के बाद किया गया था जिसमें एक महिला आठ महीने की गर्भवती थी।

चेहरे की पहचान में त्रुटि के कारण उस पर कार चोरी का गलत आरोप लगाया गया था। जवाब में, चीफ व्हाइट ने ऐसी नीतियां लागू कीं, जिनमें चेहरे की पहचान तकनीक के साथ अतिरिक्त सबूत भी शामिल किए जाने चाहिए, ताकि यह सुनिश्चित हो सके कि गिरफ्तारी से पहले संदिग्धों के पास “अपराध करने के साधन, क्षमता और अवसर” हों।

रॉबर्ट विलियम्स ने उम्मीद जताई कि इन बदलावों से बेहतर सुरक्षा उपाय सामने आएंगे और अंततः चेहरे की पहचान करने वाली तकनीक का इस्तेमाल कम होगा। विलियम्स ने तकनीक के लिए और अधिक सुरक्षा उपाय शुरू किए जाने पर उत्साह व्यक्त किया, उम्मीद जताई कि ये उपाय एक बेहतर दुनिया के निर्माण में योगदान देंगे। उन्होंने कहा कि वे चाहते हैं कि इस तकनीक का इस्तेमाल बिल्कुल न किया जाए।

डेट्रायट में हुए समझौते और नीतिगत बदलावों का संयुक्त राज्य अमेरिका में कानून प्रवर्तन में चेहरे की पहचान करने वाली तकनीक के इस्तेमाल पर व्यापक प्रभाव पड़ सकता है। आलोचकों का तर्क है कि तकनीक की अशुद्धियाँ और पक्षपात गलत गिरफ़्तारियों को जन्म दे सकते हैं और पुलिस में जनता के भरोसे को कम कर सकते हैं।

सख्त दिशा-निर्देशों को लागू करके और पिछले मामलों की समीक्षा करके, डेट्रॉयट इन चिंताओं को दूर करने और अपनी पुलिसिंग पद्धतियों की निष्पक्षता और सटीकता में सुधार करने के लिए कदम उठा रहा है।