Apple verschärft Regeln im App Store für nicht einvernehmliche intime Aufnahmen und KI-Apps zum digitalen Entkleiden

Apple hat seine App Review Guidelines (Prüfrichtlinien für Apps) überarbeitet, um nicht einvernehmliche intime Aufnahmen, einschließlich mit KI-Tools erzeugter Bilder, ausdrücklich zu adressieren, wie aus einem Beitrag auf der Entwickler-Nachrichtenseite des Unternehmens hervorgeht. Das Unternehmen stellte die Änderungen als Stärkung und Erweiterung bestehender Schutzmaßnahmen im App Store dar. Apple merkte an, dass pornografisches Material seit Langem aus dem Store verbannt sei, und erklärte, dies erfasse bereits Apps, die Nacktheit oder sexuell explizite Bilder erzeugen, etwa „Nudification“-Apps zum digitalen Entkleiden, die reale Personen ohne deren Einwilligung in expliziten Bildern darstellen.

Unter Richtlinie 1.2 benennen die Anforderungen an die Inhaltsmoderation laut Apple nun nicht einvernehmliche intime Aufnahmen, einschließlich mit KI erzeugten Materials, als Inhalte, die Apps proaktiv verhindern und entfernen müssen. Laut dem Text der Richtlinien gilt die Regel für Apps, die es Menschen ermöglichen, Inhalte zu erstellen, zu generieren, hochzuladen oder zu teilen – eine Gruppe, zu der ausdrücklich Social-Media-Dienste, Plattformen für nutzergenerierte Inhalte und Apps zur KI-Inhaltserstellung gehören. Solche Apps müssen eine Möglichkeit bieten, anstößiges Material vor der Veröffentlichung zu filtern, ein System zur Meldung beleidigender Inhalte mit zeitnahen Reaktionen, eine Möglichkeit, missbräuchliche Nutzer zu blockieren, sowie veröffentlichte Kontaktdaten.

Apple erklärte, Entwickler ohne angemessene Schutzvorkehrungen oder solche, die Verstöße nach einer Benachrichtigung nicht beheben, könnten als Verstoß gegen den Developer Code of Conduct (Verhaltenskodex für Entwickler) gewertet werden und mit der Entfernung aus dem App Store rechnen müssen. Die Richtlinien beschreiben das Verfahren: Stellt Apple regelwidrige Inhalte fest, fordert es den Entwickler auf, diese zu entfernen und einen Plan zur Verbesserung der Regelkonformität vorzulegen. Je nach Reaktion kann die App aus dem Store genommen werden, bis der Entwickler Verbesserungen nachweisen kann; eklatantes oder wiederholtes Verhalten kann zur sofortigen Entfernung der App und zum Ausschluss aus dem Apple Developer Program (Apple-Entwicklerprogramm) führen.

Eine zweite Änderung betrifft Richtlinie 2.5.19, die laut Apple ein seit Langem bestehendes Verbot von Apps präzisiert, die ihre Funktion während des App Review falsch darstellen und sich nach der Genehmigung ändern, etwa indem sie Funktionen hinzufügen, die in der eingereichten Version fehlten. Der Beitrag von Apple bezeichnet diese Taktik als Bait-and-Switch (Lockangebot mit anschließendem Austausch) und nennt nach der Genehmigung aufgedeckte Funktionen zum digitalen Entkleiden als Beispiel. Der Text der Richtlinien besagt, dass Apps keine versteckten, ruhenden oder undokumentierten Funktionen enthalten dürfen, führt Code-Verschleierung als eine Methode der Verheimlichung auf und warnt vor der Entfernung aus dem Store sowie der Kündigung des Entwicklerkontos. Engadget stellte die Regel vor allem im Zusammenhang mit Apps dar, die Funktionen zum digitalen Entkleiden verbergen.

Apple erklärte außerdem, Abschnitt 5 (Section 5) der Richtlinien sei dahingehend aktualisiert worden, dass Apps, die Menschenhandel oder die Ausbeutung von Kindern ermöglichen, einschließlich Darstellungen sexuellen Kindesmissbrauchs, aus dem App Store entfernt und auch von alternativen Vertriebswegen ausgeschlossen werden; solche Apps seien schon immer verboten gewesen, so das Unternehmen. Zur Durchsetzung erklärte Apple, im vergangenen Jahr mehr als 150K Apps mit Sicherheitsproblemen von Nutzern ferngehalten und mehr als 193K Entwicklerkonten wegen Betrugs und Missbrauchs geschlossen zu haben. Das Unternehmen führte diese Verstöße auf böswillige Akteure zurück, in einigen Fällen koordinierte Betrugsoperationen, die schädliche Inhalte verbergen, bis eine App genehmigt ist.