समाजवादी एआई: चीन ने एआई स्टार्टअप्स और प्रणालियों पर सेंसर लगा दिया है ताकि उनके व्यवहार को नियंत्रित किया जा सके

चीनी सरकार के अधिकारी वर्तमान में बाइटडांस, अलीबाबा, मूनशॉट और 01.AI जैसी प्रमुख AI कंपनियों द्वारा विकसित बड़े भाषा मॉडल (LLM) के कड़े परीक्षण व्यवस्था में लगे हुए हैं। यह प्रयास साइबरस्पेस एडमिनिस्ट्रेशन ऑफ़ चाइना (CAC) द्वारा संचालित है, जिसका काम यह सुनिश्चित करना है कि ये उन्नत AI सिस्टम सरकार द्वारा परिभाषित “मुख्य समाजवादी मूल्यों” के अनुरूप हों।

मामले से परिचित कई स्रोतों द्वारा बताई गई जांच प्रक्रिया में इस बात का व्यापक मूल्यांकन शामिल है कि ये एलएलएम विभिन्न प्रकार के प्रश्नों का किस तरह जवाब देते हैं। इनमें से कई प्रश्न संवेदनशील राजनीतिक विषयों पर आधारित होते हैं, जिनमें राष्ट्रपति शी जिनपिंग के नेतृत्व में चीन के नेतृत्व का संदर्भ भी शामिल है।

समीक्षा केवल एलएलएम के जवाबों तक सीमित नहीं है, बल्कि उनके प्रशिक्षण डेटा और समग्र सुरक्षा प्रोटोकॉल की जांच करने तक फैली हुई है। यह विनियामक जांच एआई प्रौद्योगिकियों और उनके द्वारा उत्पन्न सामग्री को कड़ाई से विनियमित करने के वैश्विक प्रयासों में चीन की स्थिति को सबसे आगे रखती है।

हांग्जो स्थित एक एआई कंपनी के कर्मचारी की जानकारी के अनुसार, सीएसी की ऑडिट प्रक्रिया कठोर और समय लेने वाली है। कंपनियों को सीएसी अधिकारियों की मेजबानी करनी होती है जो उनके एआई मॉडल की विस्तृत जांच करते हैं।

समीक्षा प्रक्रिया में प्रारंभिक विफलताओं के कारण अक्सर उद्योग के साथियों के साथ फीडबैक और परामर्श के आधार पर समायोजन की आवश्यकता होती है, जिससे अनुपालन प्रक्रिया में महत्वपूर्ण समय और प्रयास जुड़ जाता है। इस सख्त विनियामक वातावरण ने चीनी एआई फर्मों को सरकारी मानकों के अनुपालन को सुनिश्चित करने के लिए परिष्कृत सेंसरशिप तंत्र को तेजी से विकसित करने और लागू करने के लिए मजबूर किया है।

इंजीनियरों और उद्योग के अंदरूनी लोगों द्वारा उजागर की गई प्रमुख चुनौतियों में से एक इन एलएलएम की परिष्कृतता को सरकार द्वारा अनिवार्य सेंसरशिप के सख्त पालन के साथ संतुलित करने की आवश्यकता है। एलएलएम को विशाल मात्रा में डेटा को संभालने के लिए डिज़ाइन किया गया है, जिसमें अक्सर अंग्रेजी में सामग्री शामिल होती है, जो चीनी नियामक आवश्यकताओं के साथ आउटपुट को संरेखित करने के कार्य को और जटिल बनाती है।

फरवरी में जारी चीनी सरकार के परिचालन दिशा-निर्देशों के अनुसार, AI कंपनियों को हजारों संवेदनशील कीवर्ड और प्रश्नों को एकत्रित करना और फ़िल्टर करना होगा जो सरकार द्वारा परिभाषित “मुख्य समाजवादी मूल्यों” का उल्लंघन कर सकते हैं। इन दिशा-निर्देशों को नियमित रूप से अपडेट किया जाता है, जो उभरती राजनीतिक संवेदनशीलताओं के जवाब में सेंसरशिप मानकों में चल रहे समायोजन को दर्शाता है।

इन विनियामक आवश्यकताओं के व्यावहारिक निहितार्थ चीन में AI चैटबॉट के उपयोगकर्ता अनुभव में स्पष्ट हैं। चैटबॉट अक्सर ऐतिहासिक रूप से संवेदनशील घटनाओं जैसे कि तियानमेन स्क्वायर नरसंहार या राष्ट्रपति शी जिनपिंग से जुड़ी विनोदी तुलनाओं से संबंधित प्रश्नों को टाल देते हैं। सीधे उत्तर देने के बजाय, ये चैटबॉट वैकल्पिक प्रश्न सुझाते हैं या प्रभावी ढंग से जवाब देने की अपनी क्षमता में सीमाओं का संकेत देते हैं, जो इन AI प्रणालियों द्वारा लागू की गई सेंसरशिप की सीमा को प्रदर्शित करता है।

दिलचस्प बात यह है कि जबकि CAC तैनाती से पहले अनुपालन सुनिश्चित करने के लिए कठोर परीक्षण आवश्यकताओं को लागू करता है, ऐसे संकेत हैं कि एक बार LLM चालू हो जाने के बाद, निगरानी कम कठोर हो जाती है। इसने कुछ AI मॉडलों को संभावित विनियामक मुद्दों से बचने के लिए चीनी राजनीतिक नेतृत्व से संबंधित कुछ विषयों पर चर्चा करने पर पूर्ण प्रतिबंध जैसे पूर्वव्यापी उपायों को लागू करने के लिए प्रेरित किया है।

कम संवेदनशील पूछताछ के जवाब में, डेवलपर्स ने फ़िल्टरिंग और वास्तविक समय प्रतिक्रिया संशोधन की अतिरिक्त परतों को एकीकृत किया है। इस दृष्टिकोण में एलएलएम आउटपुट को वर्गीकृत करने और संभावित समस्याग्रस्त प्रतिक्रियाओं को सुरक्षित विकल्पों के साथ बदलने के लिए स्पैम फ़िल्टर के समान क्लासिफायर मॉडल का लाभ उठाना शामिल है, जिससे अनुपालन जोखिम कम हो जाता है।

बाइटडांस को विशेष रूप से अपने एआई मॉडल को बीजिंग की कथात्मक प्राथमिकताओं के साथ संरेखित करने में महत्वपूर्ण प्रगति करने के लिए मान्यता दी गई है। फुडन विश्वविद्यालय में किए गए एक शोध मूल्यांकन ने बाइटडांस के एलएलएम को सुरक्षा अनुपालन के लिए उच्च स्थान दिया, जो जटिल नियामक परिदृश्य को प्रभावी ढंग से नेविगेट करने के लिए कंपनी के प्रयासों को प्रदर्शित करता है।

चीनी अधिकारी एलएलएम के लिए सुरक्षा प्रोटोकॉल में और प्रगति के लिए जोर दे रहे हैं। चीन के इंटरनेट विनियमन में एक प्रमुख व्यक्ति फेंग बिनक्सिंग, जिन्हें “महान फ़ायरवॉल” विकसित करने के लिए जाना जाता है, ने मौजूदा सुरक्षा फाइलिंग के पूरक के लिए मजबूत वास्तविक समय ऑनलाइन निगरानी प्रणालियों की आवश्यकता पर जोर दिया। यह एक विशिष्ट तकनीकी ढांचा विकसित करने के लिए चीन की प्रतिबद्धता को रेखांकित करता है जो नियामक आवश्यकताओं और रणनीतिक राष्ट्रीय हितों दोनों को पूरा करता है।