Společnost Apple zpřísňuje pravidla obchodu App Store proti nekonsenzuálním intimním snímkům a AI aplikacím na svlékání

Společnost Apple revidovala své Pokyny pro posuzování aplikací (App Review Guidelines) tak, aby výslovně řešily nekonsenzuální intimní snímky včetně obrázků vytvořených nástroji AI, uvádí příspěvek na jejím zpravodajském webu pro vývojáře. Společnost změny prezentovala jako posílení a rozšíření stávajících ochranných opatření obchodu App Store. Společnost Apple poznamenala, že pornografický materiál je v obchodě dlouhodobě zakázán, a uvedla, že tento zákaz se již vztahuje na aplikace vytvářející nahotu nebo sexuálně explicitní obrázky, například „nudifikační“ aplikace, které zobrazují skutečné osoby na explicitních snímcích bez jejich souhlasu.

Podle pokynu 1.2 nyní požadavky na moderování obsahu podle vyjádření společnosti Apple výslovně jmenují nekonsenzuální intimní snímky, včetně materiálu generovaného AI, jako obsah, kterému aplikace musí aktivně předcházet a který musí odstraňovat. Podle textu pokynů se pravidlo vztahuje na aplikace, které lidem umožňují vytvářet, generovat, nahrávat nebo sdílet obsah, tedy na skupinu, jež výslovně zahrnuje služby sociálních sítí, platformy s uživatelským obsahem a aplikace pro tvorbu obsahu pomocí AI. Takové aplikace musí nabízet způsob filtrování závadného materiálu před jeho zveřejněním, systém pro nahlašování urážlivého obsahu s včasnou reakcí, možnost blokovat zneužívající uživatele a zveřejněné kontaktní údaje.

Společnost Apple uvedla, že vývojáři, kteří nemají odpovídající ochranná opatření nebo kteří po upozornění nenapraví porušení, mohou být shledáni v rozporu s Kodexem chování vývojářů (Developer Code of Conduct) a hrozí jim odstranění z obchodu App Store. Pokyny popisují postup: pokud společnost Apple zjistí závadný obsah, požádá vývojáře o jeho odstranění a o předložení plánu na zlepšení dodržování pravidel. V závislosti na reakci může být aplikace z obchodu stažena, dokud vývojář neprokáže zlepšení, a závažné nebo opakované jednání může vést k okamžitému odstranění aplikace a vyloučení z programu Apple Developer Program.

Druhá změna se týká pokynu 2.5.19, který podle společnosti Apple upřesňuje dlouhodobý zákaz aplikací, jež během posuzování (App Review) zkreslují svou funkci a po schválení se změní, například přidáním funkcí, které v předložené verzi chyběly. Příspěvek společnosti Apple tuto taktiku označuje jako bait-and-switch (návnada a záměna) a jako příklad uvádí nudifikační funkce odhalené až po schválení. Text pokynů uvádí, že aplikace nesmí obsahovat skryté, neaktivní ani nezdokumentované funkce, jako jednu z metod utajování jmenuje obfuskaci kódu a varuje před odstraněním z obchodu a ukončením vývojářského účtu. Server Engadget pravidlo zasadil především do kontextu aplikací, které skrývají nudifikační funkce.

Společnost Apple rovněž uvedla, že aktualizovala oddíl 5 (Section 5) pokynů tak, aby stanovil, že aplikace umožňující obchodování s lidmi nebo zneužívání dětí, včetně materiálu zobrazujícího sexuální zneužívání dětí, budou z obchodu App Store odstraněny a zároveň jim bude zakázána i alternativní distribuce; podle společnosti byly takové aplikace zakázány vždy. K vymáhání pravidel společnost Apple uvedla, že v loňském roce zabránila tomu, aby se k uživatelům dostalo více než 150K aplikací s bezpečnostními problémy, a kvůli podvodům a zneužívání uzavřela více než 193K vývojářských účtů. Tato porušení připsala záškodníkům, v některých případech koordinovaným podvodným operacím, kteří škodlivý obsah skrývají až do schválení aplikace.