ओपनएआई छात्रों को धोखाधड़ी से रोकने के लिए चैटजीपीटी-जनरेटेड सामग्री के लिए टेक्स्ट वॉटरमार्क टूल लॉन्च करने की योजना बना रहा है

ओपनएआई के पास एक ऐसा अत्याधुनिक उपकरण है, जिसका उपयोग करके उपयोगकर्ता यह पता लगा सकते हैं कि कोई व्यक्ति निबंध या शोध पत्र लिखने के लिए चैटजीपीटी का उपयोग कर रहा है या नहीं। यह छात्रों द्वारा अपनी परीक्षाओं और असाइनमेंट में नकल करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने के बारे में बढ़ती चिंताओं के जवाब में आया है।

लेकिन चैटजीपीटी द्वारा उत्पन्न पाठ को सटीक रूप से पहचानने की टूल की क्षमता और इस तथ्य के बावजूद कि यह एक बटन के क्लिक पर लॉन्च करने के लिए तैयार है, ओपनएआई ने उपयोगकर्ताओं और गैर-देशी अंग्रेजी बोलने वालों जैसे विशिष्ट समूहों पर इसके संभावित प्रभाव पर आंतरिक बहस और चिंताओं के कारण एक वर्ष से अधिक समय तक इसकी रिलीज को रोक रखा है।

आंतरिक बहसें खूब
ओपनएआई के कर्मचारी इस मुद्दे पर विभाजित हैं, जो कंपनी की पारदर्शिता के प्रति प्रतिबद्धता और अपने उपयोगकर्ता आधार को बनाए रखने तथा बढ़ाने की इच्छा के बीच संतुलन स्थापित कर रहे हैं।

समर्पित ChatGPT उपयोगकर्ताओं के एक सर्वेक्षण से पता चला है कि लगभग एक तिहाई लोग एंटी-चीटिंग तकनीक के कार्यान्वयन से हतोत्साहित होंगे। कंपनी संभावित जोखिमों और अनपेक्षित परिणामों के बारे में सतर्क है, जैसा कि OpenAI के प्रवक्ता ने उजागर किया है, जिन्होंने जानबूझकर और सावधानीपूर्वक दृष्टिकोण अपनाने के महत्व पर जोर दिया।

हालांकि, कंपनी के समर्थकों का तर्क है कि इस तरह के उपकरण के लाभ किसी भी संभावित नुकसान से कहीं ज़्यादा हैं। उनका मानना ​​है कि यह तकनीक अकादमिक धोखाधड़ी को काफी हद तक रोक सकती है और शैक्षिक मूल्यांकन की अखंडता को बनाए रख सकती है।

इन सम्मोहक तर्कों के बावजूद, कंपनी अभी भी हिचकिचा रही है, जिसका मुख्य कारण उपयोगकर्ताओं की मिश्रित प्रतिक्रियाएं तथा वॉटरमार्किंग टूल को लागू करने और उपयोगकर्ताओं को इस तरह के टूल के लाभों का एहसास कराने में आने वाली जटिलताएं हैं।

वॉटरमार्किंग तकनीक कैसे काम करती है
ओपनएआई द्वारा विकसित वॉटरमार्किंग तकनीक चैटजीपीटी द्वारा टोकन (शब्द या अंश) के चयन के तरीके को सूक्ष्म रूप से बदल देती है, जो टेक्स्ट के भीतर एक पहचाने जाने योग्य पैटर्न को एम्बेड करती है। यह पैटर्न, जो नग्न आंखों के लिए अदृश्य है, ओपनएआई की पहचान प्रणाली द्वारा पहचाना जा सकता है, जो एक संभावना स्कोर प्रदान करता है जो यह दर्शाता है कि कोई विशेष टेक्स्ट चैटजीपीटी द्वारा उत्पन्न किया गया था या नहीं। आंतरिक दस्तावेजों के अनुसार, जब पर्याप्त नया टेक्स्ट उत्पन्न होता है, तो यह विधि 99.9% प्रभावी बताई जाती है।

इसकी उच्च प्रभावशीलता के बावजूद, इस बात को लेकर चिंताएं हैं कि इन वॉटरमार्क को कितनी आसानी से हटाया जा सकता है। अनुवाद सेवाओं का उपयोग करने या इमोजी जोड़ने और फिर हटाने जैसी तकनीकें संभावित रूप से वॉटरमार्क को मिटा सकती हैं, जिससे इसकी विश्वसनीयता कम हो सकती है।

इसके अतिरिक्त, यह निर्धारित करना कि पहचान उपकरण तक किसकी पहुँच होनी चाहिए, एक चुनौती है। सीमित पहुँच उपकरण को अप्रभावी बना सकती है, जबकि व्यापक उपलब्धता वॉटरमार्किंग तकनीक को संभावित बुरे लोगों के लिए उजागर कर सकती है।

बहुत व्यापक निहितार्थ
ओपनएआई ने विभिन्न वितरण रणनीतियों पर चर्चा की है, जिसमें डिटेक्टर को सीधे शिक्षकों को उपलब्ध कराना या साहित्यिक चोरी का पता लगाने में विशेषज्ञता रखने वाली तृतीय-पक्ष कंपनियों के साथ साझेदारी करना शामिल है। ये चर्चाएँ उपकरण को लागू करने में शामिल जटिलताओं को उजागर करती हैं और यह सुनिश्चित करती हैं कि यह बिना किसी अनपेक्षित परिणाम के अपने इच्छित उद्देश्य को पूरा करे।

इस प्रयास में ओपनएआई अकेला नहीं है। गूगल ने अपने जेमिनी एआई के लिए एक ऐसा ही वॉटरमार्किंग टूल विकसित किया है, जो अभी बीटा परीक्षण में है। ओपनएआई ने ऑडियो और विज़ुअल कंटेंट के लिए वॉटरमार्किंग को भी प्राथमिकता दी है, क्योंकि इन मीडिया में गलत सूचनाओं से जुड़े जोखिम बहुत ज़्यादा हैं, खास तौर पर चुनावी साल में।

ओपनएआई में चल रही आंतरिक चर्चाएँ एआई-जनरेटेड सामग्री से जुड़ी व्यापक चिंताओं और चुनौतियों को दर्शाती हैं। जैसे-जैसे शैक्षणिक संस्थान शिक्षा पर एआई के निहितार्थों से जूझ रहे हैं, विश्वसनीय पहचान विधियों की आवश्यकता लगातार महत्वपूर्ण होती जा रही है। नवाचार, नैतिक विचारों और व्यावहारिक कार्यान्वयन के बीच संतुलन एक नाजुक मुद्दा बना हुआ है, क्योंकि ओपनएआई इस जटिल परिदृश्य को नेविगेट करना जारी रखता है।

अंततः, टेक्स्ट वॉटरमार्किंग टूल जारी करने का निर्णय संभवतः उपयोगकर्ताओं और व्यापक पारिस्थितिकी तंत्र पर इसके प्रभाव के आगे के आकलन पर निर्भर करेगा। जैसा कि ओपनएआई अपने कार्यों को पारदर्शिता और जिम्मेदारी के अपने मूल्यों के साथ संरेखित करना चाहता है, इन आंतरिक बहसों के परिणाम शिक्षा और उससे परे एआई के उपयोग के भविष्य को आकार देंगे।