Apple rende più severe le regole dell'App Store su immagini intime non consensuali e app di nudificazione basate sull'IA

Apple ha rivisto le proprie App Review Guidelines (linee guida per la revisione delle app) per affrontare esplicitamente le immagini intime non consensuali, comprese quelle prodotte con strumenti di IA, secondo un post pubblicato sul suo sito di notizie per sviluppatori. L'azienda ha presentato le modifiche come un rafforzamento ed estensione delle protezioni già esistenti dell'App Store. Apple ha osservato che il materiale pornografico è da tempo vietato nello store e ha affermato che questo divieto copre già le app che producono nudità o immagini sessualmente esplicite, come le app di «nudificazione» che raffigurano persone reali in immagini esplicite senza il loro consenso.

In base alla linea guida 1.2, Apple ha dichiarato che i suoi requisiti di moderazione dei contenuti ora citano espressamente le immagini intime non consensuali, incluso il materiale generato con l'IA, come contenuti che le app devono prevenire e rimuovere proattivamente. Secondo il testo delle linee guida, la regola si applica alle app che consentono alle persone di creare, generare, caricare o condividere contenuti, una categoria che include esplicitamente i servizi di social media, le piattaforme di contenuti generati dagli utenti e le app di creazione di contenuti con l'IA. Tali app devono offrire un modo per filtrare il materiale inappropriato prima che venga pubblicato, un sistema per segnalare contenuti offensivi con risposte tempestive, un modo per bloccare gli utenti abusivi e recapiti pubblicati.

Apple ha affermato che gli sviluppatori privi di adeguate misure di protezione, o che non correggono le violazioni dopo essere stati avvisati, potrebbero essere ritenuti in violazione del Developer Code of Conduct (codice di condotta per gli sviluppatori) e subire la rimozione dall'App Store. Le linee guida descrivono la procedura: se Apple individua contenuti in violazione, chiederà allo sviluppatore di rimuoverli e di fornire un piano per migliorare la conformità. A seconda della risposta, l'app potrà essere ritirata dallo store finché lo sviluppatore non sarà in grado di dimostrare dei miglioramenti, e comportamenti gravi o ripetuti possono portare alla rimozione immediata dell'app e all'espulsione dall'Apple Developer Program.

Una seconda modifica riguarda la linea guida 2.5.19, che secondo Apple chiarisce un divieto di lunga data sulle app che travisano la propria funzione durante l'App Review e poi cambiano una volta approvate, ad esempio aggiungendo funzioni assenti nella versione presentata. Il post di Apple definisce questa tattica bait-and-switch (uno specchietto per le allodole) e cita come esempio le capacità di nudificazione rivelate dopo l'approvazione. Il testo delle linee guida afferma che le app non devono contenere funzioni nascoste, inattive o non documentate, elenca l'offuscamento del codice come uno dei metodi di occultamento e avverte della rimozione dallo store e della chiusura dell'account sviluppatore. Engadget ha inquadrato la regola principalmente in relazione alle app che nascondono funzioni di nudificazione.

Apple ha inoltre dichiarato di aver aggiornato la Sezione 5 delle linee guida per stabilire che le app che favoriscono la tratta di esseri umani o lo sfruttamento di minori, incluso il materiale pedopornografico, saranno rimosse dall'App Store e anche escluse dalla distribuzione alternativa; l'azienda ha affermato che tali app sono sempre state vietate. Sul fronte dell'applicazione delle regole, Apple ha dichiarato che l'anno scorso ha tenuto lontane dagli utenti più di 150K app con problemi di sicurezza e ha chiuso più di 193K account sviluppatore per frode e abusi. Ha attribuito queste violazioni ad attori malintenzionati, in alcuni casi operazioni di frode coordinate, che nascondono contenuti dannosi fino a dopo l'approvazione dell'app.