Apple قوانین App Store را درباره تصاویر خصوصی غیرتوافقی و اپلیکیشن‌های برهنه‌سازی با هوش مصنوعی سخت‌تر می‌کند

Apple دستورالعمل‌های بازبینی اپلیکیشن (App Review Guidelines) خود را بازنگری کرده است تا به‌صراحت به تصاویر خصوصی غیرتوافقی، از جمله تصاویر تولیدشده با ابزارهای هوش مصنوعی، بپردازد؛ این بر اساس مطلبی در وب‌سایت خبری توسعه‌دهندگان این شرکت است. این شرکت تغییرات را به‌عنوان تقویت و گسترش حفاظت‌های موجود App Store ارائه کرد. Apple خاطرنشان کرد که مطالب پورنوگرافیک از مدت‌ها پیش در این فروشگاه ممنوع بوده‌اند و گفت این ممنوعیت از پیش اپلیکیشن‌هایی را که تصاویر برهنه یا صریح جنسی تولید می‌کنند، مانند اپلیکیشن‌های «برهنه‌سازی» (nudification) که افراد واقعی را بدون رضایتشان در تصاویر صریح نشان می‌دهند، در بر می‌گیرد.

Apple گفت بر اساس دستورالعمل 1.2، الزامات نظارت بر محتوای این شرکت اکنون تصاویر خصوصی غیرتوافقی، از جمله مطالب تولیدشده با هوش مصنوعی، را به‌عنوان محتوایی نام می‌برد که اپلیکیشن‌ها باید به‌طور پیشگیرانه از آن جلوگیری کرده و آن را حذف کنند. بر اساس متن دستورالعمل‌ها، این قاعده بر اپلیکیشن‌هایی اعمال می‌شود که به افراد امکان ایجاد، تولید، بارگذاری یا اشتراک‌گذاری محتوا می‌دهند؛ گروهی که به‌صراحت شامل سرویس‌های رسانه اجتماعی، پلتفرم‌های محتوای تولیدشده توسط کاربر و اپلیکیشن‌های تولید محتوا با هوش مصنوعی است. چنین اپلیکیشن‌هایی باید راهی برای فیلتر کردن مطالب ناپسند پیش از انتشار، سامانه‌ای برای گزارش محتوای توهین‌آمیز با پاسخ‌های به‌موقع، راهی برای مسدود کردن کاربران سوءاستفاده‌گر، و اطلاعات تماس منتشرشده ارائه دهند.

Apple گفت توسعه‌دهندگانی که تدابیر حفاظتی کافی ندارند، یا پس از اطلاع‌رسانی تخلفات را برطرف نمی‌کنند، ممکن است ناقض آیین‌نامه رفتار توسعه‌دهندگان (Developer Code of Conduct) شناخته شوند و با حذف از App Store روبه‌رو شوند. دستورالعمل‌ها این فرایند را شرح می‌دهند: اگر Apple محتوای متخلف بیابد، از توسعه‌دهنده می‌خواهد آن را حذف کند و برنامه‌ای برای بهبود انطباق ارائه دهد. بسته به پاسخ، اپلیکیشن ممکن است تا زمانی که توسعه‌دهنده بتواند بهبودها را نشان دهد از فروشگاه برداشته شود، و رفتار فاحش یا تکراری می‌تواند به حذف فوری اپلیکیشن و اخراج از برنامه توسعه‌دهندگان Apple (Apple Developer Program) بینجامد.

تغییر دوم به دستورالعمل 2.5.19 مربوط می‌شود که Apple گفت ممنوعیت دیرینه اپلیکیشن‌هایی را روشن می‌کند که در جریان بازبینی اپلیکیشن عملکرد خود را به‌نادرستی معرفی می‌کنند و پس از تأیید تغییر می‌کنند، برای مثال با افزودن ویژگی‌هایی که در نسخه ارسالی وجود نداشته است. مطلب Apple این تاکتیک را bait-and-switch (طعمه و تعویض) می‌نامد و قابلیت‌های برهنه‌سازی را که پس از تأیید آشکار می‌شوند به‌عنوان نمونه ذکر می‌کند. متن دستورالعمل‌ها می‌گوید اپلیکیشن‌ها نباید ویژگی‌های پنهان، غیرفعال یا مستندنشده داشته باشند، مبهم‌سازی کد را یکی از روش‌های پنهان‌کاری برمی‌شمارد، و درباره حذف از فروشگاه و لغو حساب توسعه‌دهنده هشدار می‌دهد. Engadget این قاعده را عمدتاً حول اپلیکیشن‌هایی که ویژگی‌های برهنه‌سازی را پنهان می‌کنند، چارچوب‌بندی کرد.

Apple همچنین گفت بخش 5 (Section 5) دستورالعمل‌ها را به‌روزرسانی کرده است تا تصریح کند اپلیکیشن‌هایی که قاچاق انسان یا بهره‌کشی از کودکان، از جمله مواد سوءاستفاده جنسی از کودکان، را ممکن می‌سازند از App Store حذف می‌شوند و از توزیع جایگزین نیز منع خواهند شد؛ این شرکت گفت چنین اپلیکیشن‌هایی همیشه ممنوع بوده‌اند. در زمینه اجرا، Apple گفت سال گذشته بیش از 150K اپلیکیشن با مشکلات ایمنی را از کاربران دور نگه داشته و بیش از 193K حساب توسعه‌دهنده را به دلیل تقلب و سوءاستفاده بسته است. این شرکت این تخلفات را به عاملان بدخواه، در برخی موارد عملیات‌های تقلب هماهنگ، نسبت داد که محتوای مضر را تا پس از تأیید اپلیکیشن پنهان می‌کنند.