Apple, 비동의 성적 이미지와 AI 누드화 앱에 대한 App Store 규정 강화

Apple은 개발자 뉴스 사이트 게시글에 따르면, AI 도구로 생성된 사진을 포함한 비동의 성적 이미지를 명시적으로 다루기 위해 App Review 지침을 개정했다. 회사는 이번 변경을 기존 App Store 보호 조치의 강화 및 확장으로 제시했다. Apple은 음란물이 오래전부터 스토어에서 금지되어 왔다고 언급하며, 이는 실제 인물을 본인 동의 없이 노골적인 이미지로 묘사하는 ‘누드화(nudification)’ 앱처럼 나체나 성적으로 노골적인 사진을 생성하는 앱도 이미 포함한다고 밝혔다.

지침 1.2와 관련해 Apple은 콘텐츠 모더레이션 요건이 이제 AI로 생성된 자료를 포함한 비동의 성적 이미지를 앱이 사전에 방지하고 삭제해야 하는 콘텐츠로 명시한다고 밝혔다. 지침 본문에 따르면 이 규정은 사용자가 콘텐츠를 만들고, 생성하고, 업로드하거나 공유할 수 있게 하는 앱에 적용되며, 여기에는 소셜 미디어 서비스, 사용자 생성 콘텐츠 플랫폼, AI 콘텐츠 제작 앱이 명시적으로 포함된다. 이러한 앱은 게시 전에 부적절한 자료를 걸러내는 수단, 신속한 대응이 따르는 불쾌한 콘텐츠 신고 시스템, 악성 사용자를 차단하는 수단, 그리고 공개된 연락처 정보를 제공해야 한다.

Apple은 적절한 안전장치가 없거나 통지를 받은 뒤에도 위반 사항을 시정하지 않는 개발자는 개발자 행동 강령(Developer Code of Conduct) 위반으로 판단되어 App Store에서 삭제될 수 있다고 밝혔다. 지침은 그 절차를 다음과 같이 설명한다. Apple이 위반 콘텐츠를 발견하면 개발자에게 해당 콘텐츠를 삭제하고 준수 개선 계획을 제출하도록 요청한다. 대응에 따라 개발자가 개선을 입증할 때까지 앱이 스토어에서 내려갈 수 있으며, 악질적이거나 반복되는 행위는 앱의 즉시 삭제와 Apple Developer Program에서의 퇴출로 이어질 수 있다.

두 번째 변경은 지침 2.5.19에 관한 것으로, Apple에 따르면 App Review 심사 과정에서 기능을 허위로 제시한 뒤 승인 후에 제출된 버전에 없던 기능을 추가하는 등 내용을 바꾸는 앱에 대한 오랜 금지 규정을 명확히 한 것이다. Apple의 게시글은 이러한 수법을 bait-and-switch(심사 통과 후 내용을 바꿔치기하는 기만 행위)라고 부르며, 승인 후 드러난 누드화 기능을 그 예로 든다. 지침 본문은 앱에 숨겨진 기능, 비활성 상태의 기능, 문서화되지 않은 기능이 포함되어서는 안 된다고 명시하고, 코드 난독화를 은폐 수법의 하나로 열거하며, 스토어에서의 삭제와 개발자 계정 해지를 경고한다. Engadget은 이 규정을 주로 누드화 기능을 숨기는 앱을 겨냥한 것으로 보도했다.

Apple은 또한 지침의 제5절(Section 5)을 업데이트해 아동 성착취물을 포함한 인신매매나 아동 착취를 가능하게 하는 앱은 App Store에서 삭제될 뿐 아니라 대체 배포에서도 차단된다고 명시했다고 밝혔으며, 회사는 그러한 앱은 항상 금지되어 왔다고 밝혔다. 집행과 관련해 Apple은 지난해 안전 문제가 있는 150K개 이상의 앱을 사용자로부터 차단하고 사기와 악용을 이유로 193K개 이상의 개발자 계정을 폐쇄했다고 밝혔다. 회사는 이러한 위반을 앱이 승인될 때까지 유해 콘텐츠를 숨기는 악의적 행위자, 경우에 따라서는 조직적인 사기 조직의 소행으로 돌렸다.