Apple zaostrza zasady App Store dotyczące intymnych obrazów bez zgody i aplikacji AI do rozbierania

Firma Apple zmieniła swoje wytyczne App Review Guidelines (wytyczne recenzji aplikacji), aby wprost odnieść się do intymnych obrazów bez zgody, w tym zdjęć wytworzonych za pomocą narzędzi AI, jak wynika z wpisu w jej serwisie z aktualnościami dla deweloperów. Firma przedstawiła zmiany jako wzmocnienie i rozszerzenie istniejących zabezpieczeń sklepu App Store. Apple zaznaczyła, że materiały pornograficzne od dawna są w sklepie zakazane, i stwierdziła, że obejmuje to już aplikacje generujące nagość lub obrazy o charakterze jednoznacznie seksualnym, takie jak aplikacje do „nudyfikacji”, które bez zgody przedstawiają prawdziwe osoby na obrazach o charakterze jednoznacznie seksualnym.

W ramach wytycznej 1.2 Apple podała, że jej wymagania dotyczące moderacji treści wymieniają teraz intymne obrazy bez zgody, w tym materiały wygenerowane przez AI, jako treści, którym aplikacje muszą proaktywnie zapobiegać i które muszą usuwać. Zgodnie z tekstem wytycznych zasada dotyczy aplikacji umożliwiających tworzenie, generowanie, przesyłanie lub udostępnianie treści, czyli grupy obejmującej wprost serwisy społecznościowe, platformy z treściami tworzonymi przez użytkowników oraz aplikacje do tworzenia treści za pomocą AI. Takie aplikacje muszą oferować sposób filtrowania niestosownych materiałów przed ich opublikowaniem, system zgłaszania obraźliwych treści z terminowymi reakcjami, możliwość blokowania użytkowników dopuszczających się nadużyć oraz opublikowane dane kontaktowe.

Apple podała, że deweloperzy, którzy nie mają odpowiednich zabezpieczeń lub nie usuwają naruszeń po otrzymaniu powiadomienia, mogą zostać uznani za naruszających Kodeks postępowania dewelopera (Developer Code of Conduct) i usunięci ze sklepu App Store. Wytyczne opisują procedurę: jeśli Apple znajdzie treści naruszające zasady, poprosi dewelopera o ich usunięcie i przedstawienie planu poprawy zgodności. W zależności od reakcji aplikacja może zostać wycofana ze sklepu do czasu, aż deweloper wykaże poprawę, a rażące lub powtarzające się zachowania mogą prowadzić do natychmiastowego usunięcia aplikacji i wykluczenia z programu Apple Developer Program.

Druga zmiana dotyczy wytycznej 2.5.19, która według Apple doprecyzowuje obowiązujący od dawna zakaz dotyczący aplikacji, które podczas procesu App Review wprowadzają w błąd co do swojej funkcji, a po zatwierdzeniu się zmieniają, na przykład dodając funkcje nieobecne w zgłoszonej wersji. Wpis Apple nazywa tę taktykę bait-and-switch (przynęta i podmiana) i jako przykład podaje funkcje nudyfikacji ujawniane po zatwierdzeniu. Tekst wytycznych stanowi, że aplikacje nie mogą zawierać ukrytych, uśpionych ani nieudokumentowanych funkcji, wymienia zaciemnianie kodu jako jedną z metod ukrywania i ostrzega przed usunięciem ze sklepu oraz zamknięciem konta dewelopera. Engadget przedstawił tę zasadę głównie w kontekście aplikacji ukrywających funkcje nudyfikacji.

Apple podała też, że zaktualizowała Sekcję 5 wytycznych, aby stwierdzić, że aplikacje umożliwiające handel ludźmi lub wykorzystywanie dzieci, w tym materiały przedstawiające seksualne wykorzystywanie dzieci, będą usuwane ze sklepu App Store i także wykluczane z dystrybucji alternatywnej; firma stwierdziła, że takie aplikacje zawsze były zakazane. W kwestii egzekwowania Apple podała, że w zeszłym roku nie dopuściła do użytkowników ponad 150K aplikacji z problemami dotyczącymi bezpieczeństwa i zamknęła ponad 193K kont deweloperów z powodu oszustw i nadużyć. Naruszenia te przypisała złośliwym podmiotom, w niektórych przypadkach skoordynowanym operacjom oszustw, które ukrywają szkodliwe treści do czasu zatwierdzenia aplikacji.