अंततः Apple ने AI-संचालित न्यूड इमेज-जनरेटर ऐप्स पर नकेल कसना शुरू कर दिया है

ऐप्पल अंततः अपने ऐप स्टोर से कम से कम तीन ऐप्स को हटाकर कार्रवाई कर रहा है जो गैर-सहमति वाली नग्न छवियां उत्पन्न करने के लिए आर्टिफिशियल इंटेलिजेंस या एआई का उपयोग करते हैं।

404 मीडिया की एक रिपोर्ट के मुताबिक, इन ऐप्स का विज्ञापन इंस्टाग्राम पर किया जा रहा था, जो इंस्टाग्राम की नीतियों का उल्लंघन है

रिपोर्ट में इस बात पर प्रकाश डाला गया है कि ऐप्पल ने इन ऐप्स को तब हटाया जब कई उपयोगकर्ताओं ने इन ऐप्स की रिपोर्ट की और इन ऐप्स को हटाने के लिए उनसे जुड़े लिंक और उनके संबंधित विज्ञापन साझा किए। यह उन दुर्लभ उदाहरणों में से एक है जहां ऐप्पल ने अपनी ऐप स्टोर नीतियों का उल्लंघन करने वाले ऐप्स की पहचान करने के लिए बाहरी सहायता पर भरोसा किया।

404 मीडिया की जांच में मेटा की विज्ञापन लाइब्रेरी पर पांच ऐसे विज्ञापनों का पता चला, जहां मंच पर सभी विज्ञापन संग्रहीत हैं। जबकि इनमें से दो विज्ञापन समान क्षमताओं की पेशकश करने वाली वेब-आधारित सेवाओं के लिए थे, तीन उपयोगकर्ताओं को ऐप्पल ऐप स्टोर पर उपलब्ध ऐप्स की ओर ले गए।

इनमें से कुछ ऐप्स ने वयस्क छवियों पर चेहरे की अदला-बदली जैसी सुविधाओं का वादा किया था, जबकि अन्य को तस्वीरों से कपड़ों को डिजिटल रूप से हटाने के लिए एआई का उपयोग करके ‘अनड्रेसिंग’ ऐप के रूप में विपणन किया गया था।

हालाँकि मेटा ने खोजे जाने पर तुरंत इन विज्ञापनों को हटा दिया, संपर्क करने पर, Apple ने शुरू में टिप्पणी करने से इनकार कर दिया और पिछले सप्ताह कहानी के प्रकाशन के बाद अधिक विवरण का अनुरोध किया।

ऐप स्टोर पर एआई-संचालित डीपफेक ऐप्स के संबंध में उठाई गई चिंताओं का यह पहला उदाहरण नहीं है।

2022 में, Google Play Store और Apple App Store दोनों पर समान ऐप्स पाए गए, लेकिन किसी भी कंपनी ने उन्हें हटाने के लिए तत्काल कार्रवाई नहीं की। इसके बजाय, उन्होंने डेवलपर्स से लोकप्रिय वयस्क वेबसाइटों पर ऐसी क्षमताओं का विज्ञापन बंद करने का आग्रह किया।

हाल के महीनों में, दुनिया भर के स्कूलों और कॉलेजों में कपड़े उतारने वाले ऐप्स का प्रसार आम हो गया है।

इनमें से कुछ ऐप्स सीधे वितरित किए जाते हैं, जबकि अन्य सदस्यता सेवाओं के माध्यम से अपनी सुविधाएं प्रदान करते हैं। यह प्रवृत्ति हानिकारक और अनैतिक अनुप्रयोगों के प्रसार को रोकने के लिए तकनीकी कंपनियों द्वारा सतर्क निगरानी के महत्व को रेखांकित करती है।

(एजेंसियों से इनपुट के साथ)