माइक्रोसॉफ्ट व्हिसलब्लोअर ने अमेरिकी अधिकारियों को बताया कि ओपनएआई-संचालित कोपायलट ‘बहुत आसानी से’ हानिकारक इमेजरी बना सकता है

माइक्रोसॉफ्ट के एक इंजीनियर ने कंपनी के आर्टिफिशियल इंटेलिजेंस इमेज-जनरेटर टूल द्वारा निर्मित आपत्तिजनक और हानिकारक छवियों के बारे में चिंता जताई है। एसोसिएटेड प्रेस की एक रिपोर्ट के अनुसार, शेन जोन्स, जो खुद को व्हिसलब्लोअर मानते हैं, ने अमेरिकी नियामकों और माइक्रोसॉफ्ट के निदेशक मंडल को पत्र भेजकर उनसे कार्रवाई करने का आग्रह किया है।

जोन्स ने हाल ही में अपनी चिंताओं पर चर्चा करने के लिए अमेरिकी सीनेट के कर्मचारियों से मुलाकात की और संघीय व्यापार आयोग (एफटीसी) को एक पत्र भेजा, जिसने प्राप्ति की पुष्टि की लेकिन आगे टिप्पणी करने से इनकार कर दिया।

माइक्रोसॉफ्ट ने कर्मचारियों की चिंताओं को दूर करने के लिए अपनी प्रतिबद्धता जताई और प्रौद्योगिकी के परीक्षण में जोन्स के प्रयासों की सराहना की। हालाँकि, इसने मुद्दों की जांच और समाधान के लिए आंतरिक रिपोर्टिंग चैनलों का उपयोग करने की सिफारिश की।

जोन्स, एक प्रमुख सॉफ्टवेयर इंजीनियरिंग प्रमुख, ने माइक्रोसॉफ्ट के कोपायलट डिज़ाइनर के बारे में सुरक्षा चिंताओं को दूर करने की कोशिश में तीन महीने बिताए हैं। उन्होंने सौम्य संकेतों के बावजूद उपकरण द्वारा हानिकारक सामग्री उत्पन्न करने के जोखिम पर प्रकाश डाला। उदाहरण के लिए, जब ‘कार दुर्घटना’ का संकेत दिया जाता है, तो कोपायलट डिज़ाइनर महिलाओं की अनुचित, यौन रूप से आपत्तिजनक छवियां शामिल कर सकता है।

जोन्स ने एफटीसी अध्यक्ष लीना खान पर जोर दिया कि कोपायलट डिजाइनर निर्दोष उपयोगकर्ता अनुरोधों के बावजूद हानिकारक सामग्री उत्पन्न करके महत्वपूर्ण जोखिम पैदा करता है। उदाहरण के लिए, जब ‘कार दुर्घटना’ पूछा जाता है, तो इसमें कभी-कभी महिलाओं की यौन रूप से आपत्तिजनक छवियां शामिल हो जाती हैं। उन्होंने हिंसा, राजनीतिक पूर्वाग्रह, कम उम्र में शराब पीने और नशीली दवाओं के उपयोग, कॉपीराइट उल्लंघन, साजिश के सिद्धांतों और धार्मिक कल्पना जैसी अन्य संबंधित सामग्री पर भी प्रकाश डाला।

जोन्स पहले भी इन चिंताओं को सार्वजनिक रूप से उठा चुके हैं। शुरुआत में माइक्रोसॉफ्ट ने उन्हें ओपनएआई से संपर्क करने की सलाह दी, उन्होंने अपने निष्कर्ष उन तक पहुंचाए। दिसंबर में, उन्होंने ओपनएआई को संबोधित करते हुए लिंक्डइन पर एक पत्र पोस्ट किया, जिसके कारण माइक्रोसॉफ्ट की कानूनी टीम ने इसे हटाने की मांग की। इसके बावजूद, जोन्स अमेरिकी सीनेट की वाणिज्य समिति और वाशिंगटन राज्य अटॉर्नी जनरल के कार्यालय में अपनी चिंताओं को लेकर कायम है।

जोन्स ने इस बात पर प्रकाश डाला कि मुख्य मुद्दा OpenAI के DALL-E मॉडल के साथ है, AI छवि निर्माण के लिए OpenAI के ChatGPT के उपयोगकर्ताओं को दोनों कंपनियों द्वारा लागू किए गए विभिन्न सुरक्षात्मक उपायों के कारण हानिकारक आउटपुट का सामना करने की संभावना कम है।

उन्होंने पाठ के माध्यम से बताया, “कोपायलट डिज़ाइनर की कई चिंताएँ पहले से ही चैटजीपीटी के अंतर्निहित सुरक्षा उपायों द्वारा प्रबंधित की जाती हैं।”

2022 में प्रभावशाली AI छवि जनरेटर के उद्भव, जिसमें OpenAI का DALL-E 2 और उसके बाद ChatGPT की रिलीज़ शामिल है, ने महत्वपूर्ण सार्वजनिक रुचि पैदा की, जिससे Microsoft और Google जैसे तकनीकी दिग्गजों को अपने स्वयं के संस्करण विकसित करने के लिए प्रेरित किया गया।

हालाँकि, मजबूत सुरक्षा उपायों के बिना, प्रौद्योगिकी जोखिम उठाती है, जिससे उपयोगकर्ताओं को राजनीतिक हस्तियों, युद्ध के दृश्यों, या गैर-सहमति वाली नग्नता को चित्रित करने वाली हानिकारक “डीपफेक” छवियां बनाने में सक्षम बनाया जाता है, और उन्हें गलत तरीके से वास्तविक व्यक्तियों के लिए जिम्मेदार ठहराया जाता है।

चिंताओं के जवाब में, Google ने जेमिनी चैटबॉट की छवि निर्माण सुविधा को अस्थायी रूप से निलंबित कर दिया, विशेष रूप से नस्ल और जातीयता के चित्रण से जुड़े विवादों के कारण, जैसे कि नाज़ी-युग की सैन्य पोशाक में रंगीन लोगों को रखना।

(एजेंसियों से इनपुट के साथ)