Apple посилює правила App Store щодо інтимних зображень без згоди та ШІ-застосунків для «роздягання»

Apple переглянула свої правила App Review Guidelines (настанови з перевірки застосунків), щоб прямо охопити інтимні зображення без згоди, зокрема створені за допомогою ШІ-інструментів, йдеться в дописі на сайті новин для розробників компанії. Компанія представила зміни як посилення та розширення наявних механізмів захисту App Store. Apple зазначила, що порнографічні матеріали давно заборонені в магазині, і заявила, що ця заборона вже поширюється на застосунки, які створюють зображення з оголеним тілом або сексуально відверті зображення, наприклад застосунки для «nudification» (цифрового роздягання), що без згоди зображують реальних людей на відвертих знімках.

Згідно з правилом 1.2, як заявила Apple, її вимоги до модерації контенту тепер прямо називають інтимні зображення без згоди, зокрема згенеровані за допомогою ШІ, контентом, якому застосунки мають проактивно запобігати і який мають видаляти. Згідно з текстом правил, норма стосується застосунків, що дозволяють користувачам створювати, генерувати, завантажувати або поширювати контент, — до цієї групи прямо віднесено сервіси соціальних мереж, платформи з користувацьким контентом і застосунки для створення контенту за допомогою ШІ. Такі застосунки повинні передбачати спосіб фільтрації неприйнятних матеріалів до їх публікації, систему скарг на образливий контент зі своєчасним реагуванням, можливість блокувати користувачів, які зловживають, і опубліковані контактні дані.

Apple заявила, що розробники, які не мають належних запобіжників або не усувають порушення після повідомлення, можуть бути визнані такими, що порушили Кодекс поведінки розробника (Developer Code of Conduct), і видалені з App Store. У правилах описано процедуру: якщо Apple виявить контент із порушеннями, вона попросить розробника видалити його та надати план покращення дотримання вимог. Залежно від відповіді застосунок може бути знятий з магазину, доки розробник не продемонструє покращення, а кричущі або повторні порушення можуть призвести до негайного видалення застосунку та виключення з Apple Developer Program.

Друга зміна стосується правила 2.5.19, яке, за словами Apple, уточнює давню заборону застосунків, що спотворюють свої функції під час перевірки App Review, а після схвалення змінюються, наприклад додаючи функції, відсутні в поданій версії. У дописі Apple цю тактику названо bait-and-switch (підміна після схвалення), а як приклад наведено функції цифрового роздягання, виявлені вже після схвалення. У тексті правил зазначено, що застосунки не повинні містити прихованих, неактивних або незадокументованих функцій, обфускацію коду названо одним зі способів приховування, а порушникам загрожує видалення з магазину та припинення облікового запису розробника. Engadget подало це правило передусім як спрямоване проти застосунків, що приховують функції цифрового роздягання.

Apple також повідомила, що оновила розділ 5 (Section 5) правил, зазначивши, що застосунки, які сприяють торгівлі людьми або експлуатації дітей, зокрема матеріали із сексуальним насильством над дітьми, будуть видалені з App Store, а також заблоковані для альтернативного розповсюдження; за словами компанії, такі застосунки завжди були заборонені. Щодо правозастосування Apple заявила, що торік не допустила до користувачів понад 150K застосунків із проблемами безпеки та закрила понад 193K облікових записів розробників за шахрайство і зловживання. Ці порушення компанія пояснила діями зловмисників, у деяких випадках — скоординованих шахрайських операцій, які приховують шкідливий контент до моменту схвалення застосунку.