Apple ужесточает правила App Store в отношении интимных изображений без согласия и ИИ-приложений для «раздевания»

Apple пересмотрела свои правила App Review Guidelines (руководство по проверке приложений), чтобы прямо охватить интимные изображения без согласия, включая изображения, созданные с помощью ИИ-инструментов, говорится в публикации на сайте новостей для разработчиков компании. Компания представила изменения как усиление и расширение существующих мер защиты App Store. Apple отметила, что порнографические материалы давно запрещены в магазине, и заявила, что этот запрет уже распространяется на приложения, создающие изображения с обнажённым телом или сексуально откровенные изображения, например приложения для «nudification» (цифрового раздевания), которые без согласия изображают реальных людей на откровенных снимках.

Согласно правилу 1.2, как заявила Apple, её требования к модерации контента теперь прямо называют интимные изображения без согласия, в том числе сгенерированные с помощью ИИ, контентом, который приложения обязаны проактивно предотвращать и удалять. Согласно тексту правил, норма распространяется на приложения, позволяющие пользователям создавать, генерировать, загружать или распространять контент, — в эту группу прямо включены сервисы социальных сетей, платформы с пользовательским контентом и приложения для создания контента с помощью ИИ. Такие приложения должны предусматривать способ фильтрации неприемлемых материалов до их публикации, систему жалоб на оскорбительный контент со своевременным реагированием, возможность блокировать пользователей, допускающих злоупотребления, и опубликованные контактные данные.

Apple заявила, что разработчики, не имеющие достаточных мер защиты или не устраняющие нарушения после уведомления, могут быть признаны нарушившими Кодекс поведения разработчика (Developer Code of Conduct) и удалены из App Store. В правилах описана процедура: если Apple обнаружит нарушающий контент, она попросит разработчика удалить его и представить план по улучшению соблюдения требований. В зависимости от ответа приложение может быть снято с магазина до тех пор, пока разработчик не продемонстрирует улучшения, а вопиющие или повторные нарушения могут привести к немедленному удалению приложения и исключению из Apple Developer Program.

Второе изменение касается правила 2.5.19, которое, по словам Apple, уточняет давний запрет на приложения, искажающие свои функции во время проверки App Review и меняющиеся после одобрения, например добавляя функции, отсутствовавшие в представленной версии. В публикации Apple эта тактика называется bait-and-switch (подмена после одобрения), а в качестве примера приводятся функции цифрового раздевания, выявленные уже после одобрения. В тексте правил говорится, что приложения не должны содержать скрытых, неактивных или недокументированных функций, обфускация кода названа одним из способов сокрытия, а нарушителям грозит удаление из магазина и прекращение действия учётной записи разработчика. Engadget представило это правило главным образом как направленное против приложений, скрывающих функции цифрового раздевания.

Apple также сообщила, что обновила раздел 5 (Section 5) правил, указав, что приложения, способствующие торговле людьми или эксплуатации детей, включая материалы с сексуальным насилием над детьми, будут удалены из App Store и также заблокированы для альтернативного распространения; по словам компании, такие приложения всегда были запрещены. Что касается правоприменения, Apple заявила, что в прошлом году не допустила до пользователей более 150K приложений с проблемами безопасности и закрыла более 193K учётных записей разработчиков за мошенничество и злоупотребления. Эти нарушения компания объяснила действиями злоумышленников, в ряде случаев — скоординированных мошеннических операций, которые скрывают вредоносный контент до момента одобрения приложения.