Apple înăsprește regulile App Store privind imaginile intime neconsensuale și aplicațiile AI de dezbrăcare digitală

Apple și-a revizuit ghidul de evaluare a aplicațiilor (App Review Guidelines) pentru a aborda explicit imaginile intime neconsensuale, inclusiv imaginile produse cu instrumente AI, potrivit unei postări de pe site-ul său de știri pentru dezvoltatori. Compania a prezentat modificările drept o consolidare și o extindere a protecțiilor existente din App Store. Apple a menționat că materialele pornografice sunt interzise de mult timp în magazin și a afirmat că această interdicție acoperă deja aplicațiile care produc nuditate sau imagini sexual explicite, cum ar fi aplicațiile de „nudification”, care înfățișează persoane reale în imagini explicite fără consimțământul acestora.

În cadrul regulii 1.2, Apple a declarat că cerințele sale privind moderarea conținutului numesc acum imaginile intime neconsensuale, inclusiv materialele generate cu AI, drept conținut pe care aplicațiile trebuie să îl prevină și să îl elimine proactiv. Potrivit textului ghidului, regula se aplică aplicațiilor care le permit utilizatorilor să creeze, să genereze, să încarce sau să partajeze conținut, o categorie care include explicit serviciile de social media, platformele cu conținut generat de utilizatori și aplicațiile de creare de conținut cu AI. Astfel de aplicații trebuie să ofere o modalitate de filtrare a materialelor inacceptabile înainte de publicare, un sistem de raportare a conținutului ofensator cu răspunsuri prompte, o modalitate de blocare a utilizatorilor abuzivi și date de contact publicate.

Apple a declarat că dezvoltatorii care nu dispun de măsuri de protecție adecvate sau care nu remediază încălcările după ce au fost notificați pot fi considerați în încălcarea Codului de conduită pentru dezvoltatori (Developer Code of Conduct) și riscă eliminarea din App Store. Ghidul descrie procesul: dacă Apple găsește conținut care încalcă regulile, va cere dezvoltatorului să îl elimine și să prezinte un plan de îmbunătățire a conformității. În funcție de răspuns, aplicația poate fi retrasă din magazin până când dezvoltatorul poate demonstra îmbunătățiri, iar comportamentul flagrant sau repetat poate duce la eliminarea imediată a aplicației și la excluderea din programul pentru dezvoltatori Apple Developer Program.

O a doua modificare vizează regula 2.5.19, care, a declarat Apple, clarifică o interdicție de lungă durată asupra aplicațiilor care își prezintă eronat funcționalitatea în timpul procesului App Review și apoi se schimbă după aprobare, de exemplu prin adăugarea unor funcții absente din versiunea trimisă. Postarea Apple numește această tactică bait-and-switch (momeală și înlocuire) și citează drept exemplu funcțiile de dezbrăcare digitală dezvăluite după aprobare. Textul ghidului prevede că aplicațiile nu trebuie să conțină funcții ascunse, inactive sau nedocumentate, menționează obfuscarea codului ca metodă de ascundere și avertizează asupra eliminării din magazin și a închiderii contului de dezvoltator. Engadget a prezentat regula în principal în legătură cu aplicațiile care ascund funcții de dezbrăcare digitală.

Apple a mai declarat că a actualizat Secțiunea 5 a ghidului pentru a preciza că aplicațiile care facilitează traficul de persoane sau exploatarea copiilor, inclusiv materialele care conțin abuzuri sexuale asupra copiilor, vor fi eliminate din App Store și blocate inclusiv de la distribuția alternativă; compania a spus că astfel de aplicații au fost întotdeauna interzise. În privința aplicării regulilor, Apple a declarat că anul trecut a ținut departe de utilizatori peste 150K aplicații cu probleme de siguranță și a închis peste 193K conturi de dezvoltator pentru fraudă și abuz. Compania a atribuit aceste încălcări unor actori rău intenționați, în unele cazuri operațiuni de fraudă coordonate, care ascund conținutul dăunător până după aprobarea aplicației.