ओपनएआई का सोरा यथार्थवादी दिखने वाले नग्न वीडियो तैयार कर सकता है, डेवलपर्स इसे ठीक करने के लिए दौड़ रहे हैं

ओपनएआई चोट की दुनिया की ओर तेजी से बढ़ सकता है, और जल्द ही उसे कई मुकदमों और जांचों का सामना करना पड़ सकता है। ओपनएआई इस बात से इंकार नहीं कर रहा है कि उसका आगामी सोरा वीडियो जनरेटर नग्न वीडियो बना सकता है – और यह कंपनी के लिए बुरी खबर हो सकती है।

आगामी टूल के बारे में वॉल स्ट्रीट जर्नल के साथ एक व्यापक साक्षात्कार में, ओपनएआई की मुख्य प्रौद्योगिकी अधिकारी मीरा मुराती ने सुझाव दिया कि कंपनी अभी तक पूरी नग्नता की बात का पता नहीं लगा पाई है।

नग्नता के बारे में पूछे जाने पर मुराती ने डब्ल्यूएसजे के संवाददाताओं से कहा, “मुझे यकीन नहीं है।” “आप कल्पना कर सकते हैं कि ऐसी रचनात्मक सेटिंग्स हैं जिनमें कलाकार उस पर अधिक नियंत्रण रखना चाहेंगे। अभी हम विभिन्न क्षेत्रों के कलाकारों और रचनाकारों के साथ काम कर रहे हैं ताकि यह पता लगाया जा सके कि टूल में क्या उपयोगी है, किस स्तर का लचीलापन है [should] उपलब्ध करवाना।”

यह आश्चर्यजनक रूप से स्पष्ट उत्तर है जिसे साक्षात्कार के अब-कुख्यात YouTube प्रशिक्षण डेटा क्षण के दौरान अनदेखा कर दिया गया है, लेकिन कुछ विशेषज्ञ चिंतित हैं कि यदि सोरा “रचनात्मक” नग्नता की अनुमति देता है, तो यह लौकिक अश्लील बाढ़ के द्वार खोल सकता है।

एआई पॉलिसी के संस्थापक और कार्यकारी निदेशक डैनियल कोल्सन ने कहा, “ओपनएआई के पास इसे लेकर एक चुनौतीपूर्ण निर्णय है क्योंकि बेहतर या बदतर, वास्तविकता यह है कि एआई-जनित वीडियो की 90 प्रतिशत मांग अश्लील साहित्य के लिए होगी।” इंस्टीट्यूट (एआईपीआई) ने क्वार्ट्ज को बताया। “यह एक अप्रिय गतिशीलता पैदा करता है, जहां, अगर इन मॉडलों को बनाने वाली केंद्रीकृत कंपनियां वह सेवा प्रदान नहीं कर रही हैं, तो यह उस सेवा को प्रदान करने के लिए ग्रे मार्केट के लिए एक बेहद मजबूत प्रोत्साहन पैदा करता है।”

यह देखते हुए कि एआई मॉडलों का उपयोग उनकी सीमाओं के विपरीत आउटपुट प्रदान करने में करना कितना आसान है, लगभग निश्चित रूप से ऐसे लोग होंगे जो सोरा को किसी भी तरह से पोर्न बनाने के लिए प्रेरित करने की कोशिश कर रहे हैं, जो वास्तव में दुनिया की अग्रणी एआई फर्म को ऐसी स्थिति में डाल देता है। यदि ऐसा होता है तो शापित है और यदि ऐसा नहीं होता है तो शापित है।

जैसा कि सार्वजनिक सर्वेक्षण से संकेत मिलता है, लोग न केवल डीपफेक पोर्न उत्पन्न करने के लिए एआई मॉडल के उपयोग के बारे में चिंतित हैं, जैसा कि उन्होंने साल की शुरुआत में टेलर स्विफ्ट की घृणित छवियों के साथ किया था, बल्कि 86 प्रतिशत का यह भी मानना ​​है कि ऐसे आसानी से उपयोग किए जाने वाले टूल के पीछे की कंपनियों को ऐसा करना चाहिए। उनकी ढीली रेलिंग के लिए जवाबदेह ठहराया जाएगा।

“यह वास्तव में इंगित करता है कि जनता इस तकनीक को कितनी गंभीरता से ले रही है,” कोल्सन ने आगे कहा। “उन्हें लगता है कि यह शक्तिशाली है। उन्होंने देखा है कि कैसे प्रौद्योगिकी कंपनियां इन मॉडलों और एल्गोरिदम और प्रौद्योगिकियों को तैनात करती हैं, और इससे पूरी तरह से समाज-परिवर्तनकारी परिणाम मिलते हैं।

यह चिंताओं का एक प्रमुख समूह है जिसे आम जनता समझती है – तो OpenAI क्यों नहीं समझता?