चीनी ऑनलाइन घोटालेबाजों, रूसी दुष्प्रचार एजेंसियों और संदिग्ध एआई चैटबॉट्स, यहां तक कि वैध, जानी-मानी तकनीकी कंपनियों के चैटबॉट्स में एक बात समान है – वे सभी फर्जी प्रोफाइल या एआई-जनरेटेड आवाजें बनाने के लिए महिलाओं का उपयोग करते हैं।
यह इस बात पर प्रकाश डालता है कि किस प्रकार गहरी जड़ें जमाए हुए लैंगिक रूढ़िवादिता डिजिटल युग में मानव व्यवहार को प्रभावित कर रही है, तथा यह दीर्घकालिक पूर्वाग्रहों को प्रतिबिंबित करती है, जो भौतिक दुनिया से आभासी दुनिया में स्थानांतरित हो गए हैं।
ऐतिहासिक रूप से, लोगों ने अक्सर निर्जीव वस्तुओं को महिलाओं के रूप में मानवीय रूप दिया है। इसका एक बेहतरीन उदाहरण जहाज़ या, विडंबना यह है कि, विशाल तूफ़ान होंगे। इन दोनों को अक्सर महिलाओं के रूप में मानवीकृत किया गया है, केवल वस्तु के रूप में। ध्यान दें कि हमने कितनी बार किसी जहाज़ का वर्णन करते हुए सुना है, “वह सुंदर है।”
निर्जीव वस्तुओं को मानवीय रूप देने की यह प्रवृत्ति डिजिटल संस्थाओं तक भी फैली हुई है। मानवीय विशेषताओं की नकल करने वाले नकली सोशल मीडिया प्रोफाइल या चैटबॉट अगर महिला की छवि में बनाए जाएं तो वे अधिक आकर्षक बन जाते हैं।
एआई-सक्षम चैटबॉट्स की बढ़ती संख्या, विशेष रूप से वे जो लोगों को ठगने के लिए डिज़ाइन किए गए हैं, साथ ही ओपनएआई, माइक्रोसॉफ्ट या एप्पल जैसी वैध कंपनियों के वॉयस असिस्टेंट, अक्सर महिलाओं के रूप में चित्रित किए गए हैं।
फ्रांस में मार्केटिंग प्रोफेसर और ऑनलाइन शोधकर्ता सिल्वी बोराऊ का कहना है कि घोटालेबाज अपने बॉट्स में कुछ भावनाएं और गर्मजोशी भरना चाहते हैं और ऐसा करने का सबसे आसान तरीका है किसी महिला का चेहरा और आवाज चुनना।
बोरौ के शोध से पता चलता है कि इंटरनेट उपयोगकर्ता अक्सर “महिला” बॉट्स को पसंद करते हैं क्योंकि उन्हें “पुरुष” संस्करणों की तुलना में अधिक मानवीय माना जाता है। वह यह भी नोट करती है कि महिलाओं को आम तौर पर अधिक गर्म, कम खतरनाक और अधिक सहमत माना जाता है, जबकि पुरुषों को अक्सर अधिक सक्षम लेकिन संभावित रूप से शत्रुतापूर्ण माना जाता है।
यह धारणा लोगों को किसी महिला जैसे दिखने वाले नकली अकाउंट से जुड़ने के लिए अधिक इच्छुक बना सकती है, चाहे वह जानबूझकर हो या अवचेतन रूप से।
गलत सूचना के शोधकर्ता वेन-पिंग लियू ने नकली सोशल मीडिया अकाउंट के माध्यम से ताइवान के चुनावों को प्रभावित करने के चीन के प्रयासों में इसी तरह की प्रवृत्ति देखी। लियू ने पाया कि सबसे सफल प्रोफाइल वे थे जो महिलाओं के रूप में प्रस्तुत किए गए थे। महिला होने का दिखावा करना विश्वसनीयता प्राप्त करने का सबसे आसान तरीका है, लियू ने कहा, जो ताइवान के न्याय मंत्रालय के एक अन्वेषक हैं।
यह धारणा कि महिला प्रोफाइल अधिक आकर्षक होती हैं, इज़रायली टेक फर्म साइब्रा द्वारा और भी पुष्ट की गई है, जो बॉट डिटेक्शन में माहिर है। 40,000 से अधिक प्रोफाइल के उनके विश्लेषण में पाया गया कि महिला सोशल मीडिया प्रोफाइल को पुरुष प्रोफाइल की तुलना में तीन गुना से अधिक बार देखा जाता है। विशेष रूप से युवा महिला प्रोफाइल सबसे अधिक ध्यान आकर्षित करती हैं। साइब्रा की रिपोर्ट ने निष्कर्ष निकाला कि एक महिला को चेहरा बनाकर नकली अकाउंट बनाने से पुरुष बॉट या यहां तक कि नकली अकाउंट की तुलना में इसकी पहुंच काफी बढ़ जाती है।
ओपनएआई के सीईओ सैम ऑल्टमैन जैसे एआई के हाई-प्रोफाइल लोगों ने भी एआई एप्लीकेशन में महिला आवाज़ों की अपील को पहचाना है। ऑल्टमैन ने चैटजीपीटी के यूजर एक्सपीरियंस को बेहतर बनाने के लिए स्कारलेट जोहानसन से उनकी आवाज़ के लिए संपर्क किया, उन्होंने इसकी आरामदायक गुणवत्ता का हवाला दिया। जोहानसन ने मना कर दिया, लेकिन उन्होंने आगे बढ़कर एक एआई बॉट बनाया, जिसमें न केवल जोहानसन की फिल्म के किरदारों में से एक के हाव-भाव थे, बल्कि उसकी आवाज़ भी वैसी ही थी।
यह एआई इंटरैक्शन को अधिक आकर्षक और प्रासंगिक बनाने में महिला आवाजों को प्राथमिकता देने पर प्रकाश डालता है।
हालाँकि, इस प्राथमिकता के साथ एक नकारात्मक पहलू भी जुड़ा है। बोरौ के शोध में यह भी पाया गया कि “महिला” चैटबॉट्स को उनके “पुरुष” समकक्षों की तुलना में यौन उत्पीड़न और धमकियाँ मिलने की अधिक संभावना है। यह परेशान करने वाला रुझान इस बात को रेखांकित करता है कि डिजिटल व्यक्तित्वों के उपचार में लिंग पूर्वाग्रह कैसे प्रकट होते हैं।
चीन और रूस जैसे देश लंबे समय से अपने ऑनलाइन चुनाव हस्तक्षेप और प्रभाव अभियानों में इन पूर्वाग्रहों का फायदा उठाते रहे हैं, मुख्य रूप से दुष्प्रचार और गलत सूचना फैलाने के लिए महिलाओं के फर्जी प्रोफाइल का उपयोग करते रहे हैं।
ये प्रोफाइल अक्सर महिलाओं के बुद्धिमान और देखभाल करने वाले व्यक्तित्व के बारे में सामाजिक दृष्टिकोण का भी फायदा उठाते हैं।
महिला एआई और फर्जी प्रोफाइल का प्रचलन आंशिक रूप से मुख्य रूप से पुरुष-प्रधान तकनीकी उद्योग के कारण है। “क्या रोबोट सेक्सिस्ट हैं?” शीर्षक वाली संयुक्त राष्ट्र की रिपोर्ट ने सुझाव दिया कि तकनीक में लैंगिक असमानता एआई उत्पादों में सेक्सिस्ट रूढ़ियों को बनाए रखने में योगदान देती है। प्रोग्रामिंग और एआई विकास में अधिक विविधता इन पूर्वाग्रहों को कम करने में मदद कर सकती है। इसे बहुत सरल शब्दों में कहें तो, अधिकांश चैटबॉट महिलाएँ हैं, क्योंकि उन्हें बनाने वाले लोग अकेले पुरुष हैं।
प्रोग्रामर जो अपने चैटबॉट को जितना संभव हो सके उतना मानवीय बनाना चाहते हैं, उनके लिए यह दुविधा की स्थिति पैदा करता है, अगर उनके पास कोई नैतिक विचार है, तो। महिला व्यक्तित्व का चयन अनजाने में वास्तविक जीवन में महिलाओं के बारे में लिंगवादी विचारों को मजबूत कर सकता है, और उन्हें जाल में फंसा सकता है। “यह एक दुष्चक्र है,” बोरौ ने टिप्पणी की। “मानवीय एआई महिलाओं को अमानवीय बना सकता है।”
प्रौद्योगिकी और लैंगिक रूढ़िवादिता के बीच यह अंतर्संबंध, एआई विकास के नैतिक निहितार्थों और अधिक समावेशी और न्यायसंगत डिजिटल वातावरण को बढ़ावा देने के लिए तकनीकी उद्योग में अधिक विविधता की आवश्यकता के बारे में महत्वपूर्ण प्रश्न उठाता है।