Apple 收紧 App Store 规则,打击未经同意的私密影像及 AI 脱衣应用
修订后的《App 审核指南》(App Review Guidelines)要求托管用户生成内容或使用 AI 工具创作内容的应用主动防止并删除未经同意的私密影像,并重申对向审核人员隐藏功能的应用的处罚。

要点
- 1据 Apple 称,指南第 1.2 条现已明确将未经同意的私密影像(包括 AI 生成的内容)列为应用必须主动防止并移除的内容。
- 2包含用户生成内容的应用(指南称其中包括 AI 内容创作应用)必须过滤不当内容、提供举报功能、允许屏蔽滥用用户并公开联系方式。
- 3Apple 表示,缺乏足够保护措施、或在接到通知后未能纠正违规行为的开发者,有违反《开发者行为准则》(Developer Code of Conduct)并被从 App Store 下架的风险。
- 4指南第 2.5.19 条针对在审核期间隐藏功能、获批后再作更改的应用;Apple 表示违规者将面临从商店下架并被逐出 Apple Developer Program(Apple 开发者计划)。
- 5Apple 表示,第 5 节(Section 5)现已明确规定,涉及人口贩运或儿童剥削的应用将被移除,并被禁止通过替代分发渠道分发。
报道全文
据 Apple 开发者新闻网站上的一篇文章,Apple 已修订其《App 审核指南》(App Review Guidelines),明确针对未经同意的私密影像,包括使用 AI 工具生成的图片。该公司将这些变更表述为对 App Store 现有保护措施的强化和延伸。Apple 指出,色情内容长期以来一直被禁止上架,并表示这已涵盖生成裸露或露骨色情图片的应用,例如未经本人同意将真实人物呈现于露骨图像中的“脱衣”(nudification)应用。
Apple 表示,根据指南第 1.2 条,其内容审核要求现已将未经同意的私密影像(包括 AI 生成的内容)列为应用必须主动防止并移除的内容。据指南文本,该规则适用于允许用户创建、生成、上传或分享内容的应用,这一类别明确包括社交媒体服务、用户生成内容平台以及 AI 内容创作应用。此类应用必须提供在内容发布前过滤不当内容的方法、能够及时响应的违规内容举报机制、屏蔽滥用用户的方式,以及公开的联系方式。
Apple 表示,缺乏足够保护措施、或在收到通知后仍不纠正违规行为的开发者,可能被认定违反《开发者行为准则》(Developer Code of Conduct),并面临从 App Store 下架。指南描述了相关流程:如果 Apple 发现违规内容,将要求开发者删除该内容,并提交改进合规的计划。视开发者的回应而定,该应用可能被从商店下架,直至开发者能够证明已作出改进;而严重或屡次违规的行为可能导致应用被立即下架,并被逐出 Apple Developer Program(Apple 开发者计划)。
第二项变更涉及指南第 2.5.19 条,Apple 表示该条款澄清了一项长期存在的禁令,即禁止应用在 App 审核期间虚报其功能、在获批后再作更改,例如添加提交版本中不存在的功能。Apple 的文章将这种手法称为 bait-and-switch(诱导转换,即先以一种面貌过审再偷换内容),并以获批后才显露的脱衣功能为例。指南文本称,应用不得包含隐藏、休眠或未记录的功能,将代码混淆列为一种隐藏手段,并警告将从商店下架并终止开发者账户。Engadget 对该规则的报道主要围绕隐藏脱衣功能的应用展开。
Apple 还表示,已更新指南第 5 节(Section 5),明确规定助长人口贩运或儿童剥削(包括儿童性虐待材料)的应用将被从 App Store 移除,并同时被禁止通过替代分发渠道分发;该公司表示此类应用一直都是被禁止的。在执法方面,Apple 表示去年其阻止了超过 150K 个存在安全问题的应用接触用户,并因欺诈和滥用关闭了超过 193K 个开发者账户。该公司将这些违规行为归因于恶意行为者,其中部分为有组织的欺诈活动,它们在应用获批之后才暴露有害内容。
为何重要
此次更新将更明确的责任转移到社交、用户生成内容和 AI 内容创作应用的开发者身上,要求其在未经同意的私密影像出现之前和之后加以制止;同时也表明,Apple 打算将应用在审核后改变行为视为取消开发者计划资格的理由,而不仅仅是下架单个应用。
时间线
· 发布于
话题#Apple#App Store#App 审核指南#AI#内容审核#未经同意的私密影像
来源
本报道基于以下来源。如需完整背景,请阅读原文。
- 1Apple Developer · 官方声明Strengthening App Review Guidelines against nonconsensual intimate imagery and bait-and-switch appsdeveloper.apple.com
- 2Apple Developer · 一手来源App Review Guidelinesdeveloper.apple.com
- 3Engadget · 新闻报道Apple updates App Store rules to ensure it doesn't offer AI nudify appswww.engadget.com



