Apple endurece las normas de la App Store sobre imágenes íntimas no consentidas y aplicaciones de desnudez por IA

Apple ha revisado sus directrices de revisión de aplicaciones (App Review Guidelines) para abordar explícitamente las imágenes íntimas no consentidas, incluidas las producidas con herramientas de IA, según una publicación en su sitio de noticias para desarrolladores. La compañía presentó los cambios como un refuerzo y una ampliación de las protecciones ya existentes de la App Store. Apple señaló que el material pornográfico lleva mucho tiempo prohibido en la tienda, y afirmó que esto ya abarca las aplicaciones que producen desnudos o imágenes sexualmente explícitas, como las aplicaciones de «nudificación» que muestran a personas reales en imágenes explícitas sin su consentimiento.

En virtud de la directriz 1.2, Apple afirmó que sus requisitos de moderación de contenidos ahora mencionan las imágenes íntimas no consentidas, incluido el material generado con IA, como contenido que las aplicaciones deben prevenir y retirar de forma proactiva. Según el texto de las directrices, la norma se aplica a las aplicaciones que permiten a las personas crear, generar, subir o compartir contenido, un grupo que incluye explícitamente los servicios de redes sociales, las plataformas de contenido generado por usuarios y las aplicaciones de creación de contenido con IA. Estas aplicaciones deben ofrecer una forma de filtrar el material objetable antes de su publicación, un sistema para denunciar contenido ofensivo con respuestas oportunas, una forma de bloquear a usuarios abusivos y datos de contacto publicados.

Apple afirmó que los desarrolladores que carezcan de salvaguardas adecuadas, o que no corrijan las infracciones tras ser notificados, podrían ser considerados en incumplimiento del Código de Conducta para Desarrolladores (Developer Code of Conduct) y enfrentarse a la retirada de la App Store. Las directrices describen el proceso: si Apple encuentra contenido infractor, pedirá al desarrollador que lo elimine y que presente un plan para mejorar el cumplimiento. Según la respuesta, la aplicación puede ser retirada de la tienda hasta que el desarrollador pueda demostrar mejoras, y una conducta grave o reiterada puede conllevar la retirada inmediata de la aplicación y la expulsión del programa Apple Developer Program.

Un segundo cambio afecta a la directriz 2.5.19, que según Apple aclara una prohibición de larga data sobre las aplicaciones que tergiversan su función durante la revisión (App Review) y luego cambian una vez aprobadas, por ejemplo añadiendo funciones ausentes en la versión presentada. La publicación de Apple denomina esta táctica bait-and-switch (señuelo y cambio) y cita como ejemplo capacidades de nudificación reveladas tras la aprobación. El texto de las directrices indica que las aplicaciones no deben contener funciones ocultas, inactivas o no documentadas, menciona la ofuscación de código como uno de los métodos de ocultación, y advierte de la retirada de la tienda y la cancelación de la cuenta de desarrollador. Engadget enmarcó la norma principalmente en torno a las aplicaciones que ocultan funciones de nudificación.

Apple también afirmó que actualizó la Sección 5 de las directrices para establecer que las aplicaciones que faciliten la trata de personas o la explotación infantil, incluido el material de abuso sexual infantil, serán retiradas de la App Store y también excluidas de la distribución alternativa; la compañía dijo que tales aplicaciones siempre estuvieron prohibidas. En cuanto a la aplicación de las normas, Apple afirmó que el año pasado mantuvo alejadas de los usuarios más de 150K aplicaciones con problemas de seguridad y cerró más de 193K cuentas de desarrollador por fraude y abuso. Atribuyó estas infracciones a actores maliciosos, en algunos casos operaciones de fraude coordinadas, que ocultan contenido dañino hasta después de que la aplicación es aprobada.