Apple ने गैर-सहमति वाली अंतरंग तस्वीरों और AI न्यूडिफाई ऐप्स पर App Store के नियम सख्त किए

Apple ने अपनी डेवलपर समाचार साइट पर एक पोस्ट के अनुसार, AI टूल से बनाई गई तस्वीरों सहित गैर-सहमति वाली अंतरंग तस्वीरों को स्पष्ट रूप से संबोधित करने के लिए अपने App Review Guidelines (ऐप समीक्षा दिशानिर्देश) को संशोधित किया है। कंपनी ने इन बदलावों को App Store की मौजूदा सुरक्षा व्यवस्थाओं को मजबूत और विस्तारित करने के रूप में प्रस्तुत किया। Apple ने उल्लेख किया कि अश्लील सामग्री लंबे समय से स्टोर पर प्रतिबंधित है, और कहा कि इसमें पहले से ही ऐसे ऐप्स शामिल हैं जो नग्नता या यौन रूप से स्पष्ट तस्वीरें बनाते हैं, जैसे ‘न्यूडिफिकेशन’ ऐप्स जो वास्तविक लोगों को उनकी सहमति के बिना स्पष्ट तस्वीरों में दिखाते हैं।

दिशानिर्देश 1.2 के तहत, Apple ने कहा कि उसकी सामग्री मॉडरेशन आवश्यकताएँ अब गैर-सहमति वाली अंतरंग तस्वीरों को, AI से बनी सामग्री सहित, ऐसी सामग्री के रूप में नामित करती हैं जिसे ऐप्स को सक्रिय रूप से रोकना और हटाना होगा। दिशानिर्देशों के पाठ के अनुसार, यह नियम उन ऐप्स पर लागू होता है जो लोगों को सामग्री बनाने, जनरेट करने, अपलोड करने या साझा करने की सुविधा देते हैं, एक ऐसा समूह जिसमें स्पष्ट रूप से सोशल मीडिया सेवाएँ, उपयोगकर्ता-निर्मित सामग्री प्लेटफ़ॉर्म और AI सामग्री निर्माण ऐप्स शामिल हैं। ऐसे ऐप्स को आपत्तिजनक सामग्री को पोस्ट होने से पहले फ़िल्टर करने का तरीका, समय पर प्रतिक्रिया के साथ आपत्तिजनक सामग्री की रिपोर्ट करने की प्रणाली, दुर्व्यवहार करने वाले उपयोगकर्ताओं को ब्लॉक करने का तरीका और प्रकाशित संपर्क विवरण उपलब्ध कराने होंगे।

Apple ने कहा कि जिन डेवलपर्स के पास पर्याप्त सुरक्षा उपाय नहीं हैं, या जो सूचित किए जाने के बाद उल्लंघनों को ठीक नहीं करते, उन्हें Developer Code of Conduct (डेवलपर आचार संहिता) का उल्लंघन करने वाला माना जा सकता है और उन्हें App Store से हटाया जा सकता है। दिशानिर्देश इस प्रक्रिया का वर्णन करते हैं: यदि Apple को उल्लंघन करने वाली सामग्री मिलती है, तो वह डेवलपर से उसे हटाने और अनुपालन में सुधार की योजना देने को कहेगा। प्रतिक्रिया के आधार पर, ऐप को स्टोर से तब तक हटाया जा सकता है जब तक डेवलपर सुधार नहीं दिखा देता, और गंभीर या बार-बार होने वाले व्यवहार से ऐप को तुरंत हटाया जा सकता है और Apple Developer Program (Apple डेवलपर प्रोग्राम) से निष्कासन हो सकता है।

दूसरा बदलाव दिशानिर्देश 2.5.19 से संबंधित है, जो Apple के अनुसार उन ऐप्स पर लंबे समय से लागू प्रतिबंध को स्पष्ट करता है जो App Review (ऐप समीक्षा) के दौरान अपने कार्य को गलत तरीके से प्रस्तुत करते हैं और फिर मंजूरी मिलने के बाद बदल जाते हैं, उदाहरण के लिए जमा किए गए संस्करण में मौजूद न रहे फीचर जोड़कर। Apple की पोस्ट इस हथकंडे को bait-and-switch (पहले कुछ दिखाकर बाद में कुछ और देना) कहती है और मंजूरी के बाद सामने आई न्यूडिफिकेशन क्षमताओं को उदाहरण के रूप में उद्धृत करती है। दिशानिर्देशों के पाठ में कहा गया है कि ऐप्स में छिपे हुए, निष्क्रिय या अप्रलेखित फीचर नहीं होने चाहिए, कोड ऑबफ़स्केशन (कोड को अस्पष्ट बनाना) को छिपाने की एक विधि के रूप में सूचीबद्ध किया गया है, और स्टोर से हटाने तथा डेवलपर खाता समाप्त करने की चेतावनी दी गई है। Engadget ने इस नियम को मुख्य रूप से न्यूडिफिकेशन फीचर छिपाने वाले ऐप्स के संदर्भ में प्रस्तुत किया।

Apple ने यह भी कहा कि उसने दिशानिर्देशों के Section 5 (खंड 5) को अपडेट किया है ताकि यह बताया जा सके कि मानव तस्करी या बाल शोषण को सक्षम करने वाले ऐप्स, जिनमें बाल यौन शोषण सामग्री शामिल है, App Store से हटा दिए जाएँगे और वैकल्पिक वितरण से भी प्रतिबंधित किए जाएँगे; कंपनी ने कहा कि ऐसे ऐप्स हमेशा से प्रतिबंधित थे। प्रवर्तन के बारे में Apple ने कहा कि पिछले साल उसने सुरक्षा समस्याओं वाले 150K से अधिक ऐप्स को उपयोगकर्ताओं तक पहुँचने से रोका और धोखाधड़ी तथा दुरुपयोग के कारण 193K से अधिक डेवलपर खाते बंद किए। उसने इन उल्लंघनों के लिए दुर्भावनापूर्ण तत्वों को, कुछ मामलों में संगठित धोखाधड़ी अभियानों को, जिम्मेदार ठहराया, जो किसी ऐप की मंजूरी के बाद तक हानिकारक सामग्री छिपाए रखते हैं।