Apple、同意のない性的画像とAIヌード化アプリをめぐりApp Storeの規則を強化

Appleは、開発者向けニュースサイトへの投稿によると、AIツールで生成された画像を含む同意のない性的画像に明示的に対応するため、App Reviewガイドラインを改訂した。同社はこの変更を、既存のApp Storeにおける保護措置の強化および拡張と位置付けた。Appleは、ポルノ素材は以前からストアで禁止されていると指摘し、これにはヌードや性的に露骨な画像を生成するアプリ、たとえば実在の人物を本人の同意なく露骨な画像として描く「ヌード化(nudification)」アプリがすでに含まれると述べた。

ガイドライン1.2について、Appleは、コンテンツモデレーション要件において、AIで生成されたものを含む同意のない性的画像を、アプリが事前に防止し削除しなければならないコンテンツとして明記したと述べた。ガイドラインの本文によると、この規則は、ユーザーがコンテンツを作成、生成、アップロードまたは共有できるアプリに適用され、その範囲にはソーシャルメディアサービス、ユーザー生成コンテンツのプラットフォーム、AIコンテンツ作成アプリが明示的に含まれる。こうしたアプリは、不適切な素材を投稿前にフィルタリングする手段、迅速な対応を伴う不快なコンテンツの報告システム、悪質なユーザーをブロックする手段、そして公開された連絡先情報を提供しなければならない。

Appleは、十分な安全対策を欠く開発者や、通知を受けた後も違反を是正しない開発者は、デベロッパ行動規範(Developer Code of Conduct)違反と判断され、App Storeからの削除に直面する可能性があると述べた。ガイドラインはその手続きを次のように説明している。Appleが違反コンテンツを発見した場合、開発者に対してその削除と、コンプライアンス改善計画の提出を求める。その対応に応じて、開発者が改善を示せるまでアプリがストアから取り下げられる場合があり、悪質または繰り返される行為は、アプリの即時削除とApple Developer Programからの除名につながり得る。

もう一つの変更はガイドライン2.5.19に関するもので、Appleによれば、App Reviewの審査中に機能を偽って申告し、承認後に変更する、たとえば提出版にはなかった機能を追加するといったアプリに対する従来からの禁止を明確化したものだという。Appleの投稿はこの手法をbait-and-switch(審査通過後に中身をすり替える欺瞞行為)と呼び、承認後に明らかになったヌード化機能を例として挙げている。ガイドラインの本文は、アプリに隠された機能、休眠状態の機能、文書化されていない機能を含めてはならないとし、コードの難読化を隠蔽手法の一つとして挙げ、ストアからの削除と開発者アカウントの停止を警告している。Engadgetはこの規則を主に、ヌード化機能を隠すアプリをめぐるものとして報じた。

Appleはまた、ガイドラインの第5条(Section 5)を更新し、児童性的虐待素材を含む人身売買や児童搾取を可能にするアプリはApp Storeから削除されるとともに、代替配信からも排除されることを明記したと述べ、同社はこうしたアプリは常に禁止されてきたとしている。執行状況について、Appleは昨年、安全上の問題のある150Kを超えるアプリをユーザーから遠ざけ、不正や悪用を理由に193Kを超える開発者アカウントを閉鎖したと述べた。同社はこれらの違反を、アプリが承認されるまで有害なコンテンツを隠す悪意ある行為者、場合によっては組織的な不正行為グループによるものだとした。