Apple skärper App Store-reglerna mot intima bilder utan samtycke och AI-appar som klär av personer

Apple har reviderat sina granskningsriktlinjer (App Review Guidelines) för att uttryckligen ta upp intima bilder utan samtycke, inklusive bilder framställda med AI-verktyg, enligt ett inlägg på företagets nyhetssajt för utvecklare. Företaget presenterade ändringarna som en förstärkning och utvidgning av befintliga skydd i App Store. Apple påpekade att pornografiskt material sedan länge är förbjudet i butiken och sade att detta redan omfattar appar som skapar nakenhet eller sexuellt explicita bilder, såsom ”nudifierings”-appar som avbildar verkliga personer i explicita bilder utan deras samtycke.

Enligt riktlinje 1.2 nämner företagets krav på innehållsmoderering nu, sade Apple, intima bilder utan samtycke, inklusive AI-genererat material, som innehåll som appar proaktivt måste förhindra och ta bort. Enligt riktlinjetexten gäller regeln appar som låter människor skapa, generera, ladda upp eller dela innehåll, en grupp som uttryckligen omfattar sociala medietjänster, plattformar för användargenererat innehåll och appar för AI-skapat innehåll. Sådana appar måste erbjuda ett sätt att filtrera stötande material innan det publiceras, ett system för att rapportera kränkande innehåll med snabb hantering, ett sätt att blockera användare som missbrukar tjänsten samt publicerade kontaktuppgifter.

Apple sade att utvecklare som saknar tillräckliga skyddsåtgärder, eller som inte åtgärdar överträdelser efter att ha underrättats, kan anses bryta mot uppförandekoden för utvecklare (Developer Code of Conduct) och riskera att tas bort från App Store. Riktlinjerna beskriver processen: om Apple hittar innehåll som bryter mot reglerna ber företaget utvecklaren att ta bort det och lämna en plan för bättre regelefterlevnad. Beroende på svaret kan appen dras tillbaka från butiken tills utvecklaren kan visa förbättringar, och grovt eller upprepat beteende kan leda till att appen omedelbart tas bort och att utvecklaren utesluts ur Apple Developer Program.

En andra ändring gäller riktlinje 2.5.19, som enligt Apple förtydligar ett sedan länge gällande förbud mot appar som ger en felaktig bild av sin funktion under granskningen (App Review) och sedan ändras efter godkännandet, till exempel genom att lägga till funktioner som saknades i den inskickade versionen. Inlägget från Apple kallar taktiken bait-and-switch (att locka med en sak och leverera en annan) och nämner nudifieringsfunktioner som avslöjats efter godkännande som exempel. Riktlinjetexten säger att appar inte får innehålla dolda, vilande eller odokumenterade funktioner, anger kodobfuskering som en metod för att dölja dem och varnar för borttagning från butiken och avslutat utvecklarkonto. Engadget beskrev regeln främst som riktad mot appar som döljer nudifieringsfunktioner.

Apple sade också att företaget uppdaterat avsnitt 5 (Section 5) i riktlinjerna så att det anger att appar som möjliggör människohandel eller utnyttjande av barn, inklusive material med sexuella övergrepp mot barn, kommer att tas bort från App Store och även stängas ute från alternativ distribution; företaget sade att sådana appar alltid varit förbjudna. Vad gäller tillsynen sade Apple att företaget förra året höll mer än 150K appar med säkerhetsproblem borta från användarna och stängde mer än 193K utvecklarkonton på grund av bedrägeri och missbruk. Överträdelserna tillskrevs illasinnade aktörer, i vissa fall samordnade bedrägerioperationer, som döljer skadligt innehåll tills appen har godkänts.