एंथ्रोपिक अमेरिकी ऊर्जा विभाग के परमाणु विशेषज्ञों के साथ मिलकर यह परीक्षण कर रहा है कि क्या एआई मॉडल परमाणु जानकारी लीक करते हैं

एंथ्रोपिक अमेरिकी ऊर्जा विभाग (डीओई) के परमाणु विशेषज्ञों के साथ मिलकर काम कर रहा है ताकि यह सुनिश्चित किया जा सके कि उसके एआई मॉडल अनजाने में परमाणु बनाने वाले हथियारों के बारे में संवेदनशील जानकारी प्रदान न करें।

यह सहयोग, जो अप्रैल में शुरू हुआ था, एंथ्रोपिक द्वारा एक्सियोस को बताया गया था, और यह एआई सुरक्षा में एक महत्वपूर्ण पहला कदम है। एक्सियोस की एक रिपोर्ट के अनुसार, एंथ्रोपिक के मॉडल, क्लाउड 3 सॉनेट को डीओई के राष्ट्रीय परमाणु सुरक्षा प्रशासन (एनएनएसए) के विशेषज्ञों द्वारा “रेड-टीम” किया जा रहा है, जो परीक्षण कर रहे हैं कि क्या लोग खतरनाक परमाणु-संबंधी उद्देश्यों के लिए इसका दुरुपयोग कर सकते हैं।

रेड-टीमिंग एक ऐसी प्रक्रिया है जहां विशेषज्ञ कमजोरियों को उजागर करने के लिए किसी सिस्टम को तोड़ने या उसका दुरुपयोग करने का प्रयास करते हैं। इस मामले में, विशेषज्ञ यह मूल्यांकन कर रहे हैं कि क्या क्लाउड की प्रतिक्रियाओं का उपयोग परमाणु हथियार विकसित करने या अन्य हानिकारक परमाणु अनुप्रयोगों तक पहुंचने के लिए किया जा सकता है।

यह परियोजना फरवरी तक जारी रहेगी, और रास्ते में, एनएनएसए उन्नत क्लाउड 3.5 सॉनेट का परीक्षण करेगा, जो जून में शुरू हुआ था। एंथ्रोपिक ने इन उच्च-दांव, सरकार-केंद्रित सुरक्षा परीक्षणों को संभालने के लिए क्लाउड को तैयार करने के लिए अमेज़ॅन वेब सर्विसेज के साथ अपनी साझेदारी पर भी भरोसा किया है।

इस कार्य की प्रकृति को देखते हुए, एंथ्रोपिक ने पायलट कार्यक्रम से किसी भी निष्कर्ष का खुलासा नहीं किया है। कंपनी अपने परिणामों को वैज्ञानिक प्रयोगशालाओं और अन्य संगठनों के साथ साझा करने का इरादा रखती है, ताकि मॉडलों को दुरुपयोग से सुरक्षित रखने के लिए स्वतंत्र परीक्षण को प्रोत्साहित किया जा सके।

एंथ्रोपिक की राष्ट्रीय सुरक्षा नीति प्रमुख मरीना फेवरो ने इस बात पर जोर दिया कि जहां अमेरिकी तकनीक एआई विकास का नेतृत्व करती है, वहीं संघीय एजेंसियों के पास राष्ट्रीय सुरक्षा जोखिमों के मूल्यांकन के लिए आवश्यक अद्वितीय विशेषज्ञता है, जो इन साझेदारियों के महत्व पर प्रकाश डालती है।

एनएनएसए के वेंडिन स्मिथ ने तात्कालिकता पर जोर देते हुए कहा कि एआई महत्वपूर्ण राष्ट्रीय सुरक्षा बातचीत के केंद्र में है। उन्होंने बताया कि एजेंसी एआई के संभावित जोखिमों का आकलन करने के लिए अच्छी स्थिति में है, खासकर परमाणु और रेडियोलॉजिकल सुरक्षा से संबंधित। ये मूल्यांकन महत्वपूर्ण हैं क्योंकि एआई का संभावित दुरुपयोग विनाशकारी हो सकता है।

यह सहयोग राष्ट्रपति बिडेन के हालिया राष्ट्रीय सुरक्षा ज्ञापन का अनुसरण करता है, जिसमें वर्गीकृत वातावरण में एआई सुरक्षा मूल्यांकन का आह्वान किया गया है। एक्सियोस की रिपोर्ट के अनुसार, एंथ्रोपिक और ओपनएआई जैसे प्रमुख खिलाड़ी पहले ही अगस्त में एआई सेफ्टी इंस्टीट्यूट के साथ अपने मॉडलों का परीक्षण करने के लिए प्रतिबद्ध थे, जो इन चिंताओं के बारे में उद्योग-व्यापी जागरूकता का संकेत देता है।

दिलचस्प बात यह है कि एआई डेवलपर्स सरकारी अनुबंधों के लिए दौड़ में हैं, एंथ्रोपिक इस खेल में एकमात्र नहीं है। इसने अमेरिकी खुफिया एजेंसियों को क्लाउड की पेशकश करने के लिए पलान्टिर और अमेज़ॅन वेब सर्विसेज के साथ साझेदारी की है। इस बीच, OpenAI ने NASA और ट्रेजरी विभाग जैसी संस्थाओं के साथ सौदे किए हैं। स्केल एआई भी कदम उठा रहा है, जिसने मेटा के लामा पर निर्मित एक रक्षा-केंद्रित मॉडल विकसित किया है।

हालाँकि, यह स्पष्ट नहीं है कि वाशिंगटन में आसन्न राजनीतिक परिवर्तनों के दौरान ये साझेदारियाँ स्थिर रहेंगी या नहीं। एलोन मस्क, जो अब आने वाले प्रशासन में एक प्रमुख व्यक्ति हैं, एआई सुरक्षा पर अप्रत्याशित विचार रखते हैं। हालाँकि उन्होंने अतीत में सख्त नियंत्रणों पर जोर दिया है, उनका नया उद्यम, एक्सएआई, अधिक व्यावहारिक, मुक्त-भाषण-उन्मुख दर्शन को अपनाता है। सभी की निगाहें इस पर हैं कि ये उभरती हुई गतिशीलता एआई शासन और सुरक्षा परीक्षण के भविष्य को कैसे आकार दे सकती है।