Apple endurece as regras da App Store sobre imagens íntimas não consensuais e apps de nudificação com IA

A Apple revisou suas App Review Guidelines (diretrizes de revisão de apps) para tratar explicitamente de imagens íntimas não consensuais, incluindo imagens produzidas com ferramentas de IA, segundo uma publicação em seu site de notícias para desenvolvedores. A empresa apresentou as mudanças como um reforço e uma extensão das proteções já existentes na App Store. A Apple observou que material pornográfico há muito é proibido na loja e afirmou que isso já abrange apps que produzem nudez ou imagens sexualmente explícitas, como os apps de “nudificação” que retratam pessoas reais em imagens explícitas sem o seu consentimento.

De acordo com a diretriz 1.2, a Apple afirmou que seus requisitos de moderação de conteúdo agora citam as imagens íntimas não consensuais, incluindo material gerado com IA, como conteúdo que os apps devem prevenir e remover proativamente. Segundo o texto das diretrizes, a regra se aplica a apps que permitem às pessoas criar, gerar, enviar ou compartilhar conteúdo, um grupo que inclui explicitamente serviços de redes sociais, plataformas de conteúdo gerado por usuários e apps de criação de conteúdo com IA. Esses apps devem oferecer uma forma de filtrar material impróprio antes da publicação, um sistema para denunciar conteúdo ofensivo com respostas em tempo hábil, uma forma de bloquear usuários abusivos e dados de contato publicados.

A Apple afirmou que desenvolvedores sem salvaguardas adequadas, ou que não corrigem violações após serem notificados, podem ser considerados em infração ao Developer Code of Conduct (código de conduta para desenvolvedores) e sofrer a remoção da App Store. As diretrizes descrevem o processo: se a Apple encontrar conteúdo em violação, pedirá ao desenvolvedor que o remova e apresente um plano para melhorar a conformidade. Dependendo da resposta, o app pode ser retirado da loja até que o desenvolvedor consiga demonstrar melhorias, e condutas graves ou repetidas podem levar à remoção imediata do app e à expulsão do Apple Developer Program.

Uma segunda mudança diz respeito à diretriz 2.5.19, que, segundo a Apple, esclarece uma proibição de longa data a apps que deturpam sua função durante a App Review e depois mudam uma vez aprovados, por exemplo acrescentando funcionalidades ausentes da versão enviada. A publicação da Apple chama essa tática de bait-and-switch (isca e troca) e cita como exemplo capacidades de nudificação reveladas após a aprovação. O texto das diretrizes afirma que os apps não devem conter funcionalidades ocultas, inativas ou não documentadas, lista a ofuscação de código como um dos métodos de ocultação e adverte sobre a remoção da loja e o encerramento da conta de desenvolvedor. O Engadget enquadrou a regra principalmente em torno de apps que ocultam funcionalidades de nudificação.

A Apple também afirmou ter atualizado a Seção 5 das diretrizes para estabelecer que apps que facilitam o tráfico de pessoas ou a exploração infantil, incluindo material de abuso sexual infantil, serão retirados da App Store e também impedidos de usar a distribuição alternativa; a empresa afirmou que esses apps sempre foram proibidos. Quanto à aplicação das regras, a Apple afirmou que no ano passado manteve mais de 150K apps com problemas de segurança longe dos usuários e encerrou mais de 193K contas de desenvolvedor por fraude e abuso. A empresa atribuiu essas violações a agentes mal-intencionados, em alguns casos operações de fraude coordenadas, que escondem conteúdo nocivo até depois da aprovação do app.