Apple durcit les règles de l'App Store sur les images intimes non consenties et les applications de nudification par IA

Apple a révisé ses directives d'examen des applications (App Review Guidelines) pour traiter explicitement les images intimes non consenties, y compris les images produites avec des outils d'IA, selon un billet publié sur son site d'actualités pour les développeurs. L'entreprise a présenté ces changements comme un renforcement et une extension des protections existantes de l'App Store. Apple a noté que les contenus pornographiques sont depuis longtemps interdits sur la boutique, et a indiqué que cette interdiction couvre déjà les applications qui produisent de la nudité ou des images sexuellement explicites, comme les applications de « nudification » qui représentent des personnes réelles dans des images explicites sans leur consentement.

Au titre de la directive 1.2, Apple a indiqué que ses exigences en matière de modération des contenus désignent désormais les images intimes non consenties, contenus générés par IA compris, comme des contenus que les applications doivent prévenir et retirer de manière proactive. Selon le texte des directives, la règle s'applique aux applications qui permettent aux utilisateurs de créer, générer, téléverser ou partager du contenu, un groupe qui inclut explicitement les services de réseaux sociaux, les plateformes de contenu généré par les utilisateurs et les applications de création de contenu par IA. Ces applications doivent offrir un moyen de filtrer les contenus répréhensibles avant leur publication, un système de signalement des contenus offensants avec des réponses rapides, un moyen de bloquer les utilisateurs abusifs, ainsi que des coordonnées de contact publiées.

Apple a déclaré que les développeurs qui ne disposent pas de garde-fous adéquats, ou qui ne corrigent pas les infractions après en avoir été informés, pourraient être considérés en violation du Code de conduite des développeurs (Developer Code of Conduct) et voir leur application retirée de l'App Store. Les directives décrivent la procédure : si Apple découvre un contenu en infraction, elle demandera au développeur de le supprimer et de fournir un plan d'amélioration de la conformité. Selon la réponse, l'application peut être retirée de la boutique jusqu'à ce que le développeur puisse démontrer des améliorations, et un comportement grave ou répété peut entraîner le retrait immédiat de l'application et l'exclusion du programme Apple Developer Program.

Un second changement concerne la directive 2.5.19, qui, selon Apple, clarifie une interdiction de longue date visant les applications qui présentent de manière trompeuse leur fonction lors de l'examen (App Review) puis changent une fois approuvées, par exemple en ajoutant des fonctions absentes de la version soumise. Le billet d'Apple qualifie cette tactique de bait-and-switch (appât puis substitution) et cite comme exemple des capacités de nudification révélées après l'approbation. Le texte des directives indique que les applications ne doivent pas contenir de fonctions cachées, dormantes ou non documentées, cite l'obfuscation du code comme l'une des méthodes de dissimulation, et avertit d'un retrait de la boutique et d'une résiliation du compte développeur. Engadget a présenté la règle principalement sous l'angle des applications qui dissimulent des fonctions de nudification.

Apple a également indiqué avoir mis à jour la Section 5 des directives pour préciser que les applications qui facilitent la traite des êtres humains ou l'exploitation des enfants, y compris le matériel d'abus sexuels sur mineurs, seront retirées de l'App Store et également exclues de la distribution alternative ; l'entreprise a déclaré que de telles applications ont toujours été interdites. En matière d'application des règles, Apple a indiqué avoir, l'an dernier, tenu à l'écart des utilisateurs plus de 150K applications présentant des problèmes de sécurité et fermé plus de 193K comptes développeurs pour fraude et abus. Elle a attribué ces infractions à des acteurs malveillants, dans certains cas des opérations de fraude coordonnées, qui dissimulent des contenus nuisibles jusqu'à l'approbation de l'application.