Apple siết quy định App Store về hình ảnh nhạy cảm không có sự đồng thuận và ứng dụng AI nudify

Apple đã sửa đổi Nguyên tắc xét duyệt ứng dụng (App Review Guidelines) để xử lý rõ ràng hình ảnh nhạy cảm không có sự đồng thuận, bao gồm cả ảnh được tạo bằng công cụ AI, theo một bài đăng trên trang tin dành cho nhà phát triển của hãng. Công ty trình bày các thay đổi này như một sự củng cố và mở rộng các biện pháp bảo vệ hiện có của App Store. Apple lưu ý rằng nội dung khiêu dâm từ lâu đã bị cấm trên cửa hàng, và cho biết quy định này vốn đã bao trùm các ứng dụng tạo ra hình ảnh khỏa thân hoặc khiêu dâm, chẳng hạn các ứng dụng “nudification” mô tả người thật trong hình ảnh khiêu dâm mà không có sự đồng thuận của họ.

Theo nguyên tắc 1.2, Apple cho biết các yêu cầu kiểm duyệt nội dung của hãng nay nêu đích danh hình ảnh nhạy cảm không có sự đồng thuận, bao gồm cả nội dung tạo bằng AI, là loại nội dung mà ứng dụng phải chủ động ngăn chặn và gỡ bỏ. Theo văn bản nguyên tắc, quy định áp dụng cho các ứng dụng cho phép người dùng tạo, sinh, tải lên hoặc chia sẻ nội dung, một nhóm bao gồm rõ ràng các dịch vụ mạng xã hội, nền tảng nội dung do người dùng tạo và ứng dụng tạo nội dung bằng AI. Các ứng dụng này phải cung cấp cách lọc nội dung phản cảm trước khi được đăng, một hệ thống báo cáo nội dung xúc phạm với phản hồi kịp thời, cách chặn người dùng có hành vi lạm dụng, và thông tin liên hệ được công bố.

Apple cho biết các nhà phát triển thiếu biện pháp bảo vệ thỏa đáng, hoặc không khắc phục vi phạm sau khi được thông báo, có thể bị kết luận vi phạm Quy tắc ứng xử dành cho nhà phát triển (Developer Code of Conduct) và bị gỡ khỏi App Store. Nguyên tắc mô tả quy trình như sau: nếu Apple phát hiện nội dung vi phạm, hãng sẽ yêu cầu nhà phát triển gỡ bỏ và đưa ra kế hoạch cải thiện việc tuân thủ. Tùy theo phản hồi, ứng dụng có thể bị rút khỏi cửa hàng cho đến khi nhà phát triển chứng minh được cải thiện, và hành vi nghiêm trọng hoặc tái diễn có thể dẫn đến việc gỡ ứng dụng ngay lập tức và khai trừ khỏi Apple Developer Program.

Thay đổi thứ hai liên quan đến nguyên tắc 2.5.19, mà theo Apple là làm rõ lệnh cấm lâu nay đối với các ứng dụng trình bày sai chức năng trong quá trình App Review rồi thay đổi sau khi được duyệt, chẳng hạn bằng cách thêm các tính năng không có trong phiên bản đã nộp. Bài đăng của Apple gọi chiêu này là bait-and-switch (đánh tráo sau khi được duyệt) và dẫn các tính năng nudification bị lộ sau khi phê duyệt làm ví dụ. Văn bản nguyên tắc nêu rằng ứng dụng không được chứa tính năng ẩn, ngủ đông hoặc không được ghi nhận, liệt kê việc làm rối mã nguồn là một phương pháp che giấu, và cảnh báo việc gỡ khỏi cửa hàng cùng chấm dứt tài khoản nhà phát triển. Engadget nhìn nhận quy định này chủ yếu xoay quanh các ứng dụng che giấu tính năng nudification.

Apple cũng cho biết đã cập nhật Mục 5 (Section 5) của nguyên tắc để nêu rõ rằng các ứng dụng tiếp tay cho buôn người hoặc bóc lột trẻ em, bao gồm tài liệu xâm hại tình dục trẻ em, sẽ bị gỡ khỏi App Store và cũng bị cấm phân phối qua kênh thay thế; công ty cho biết những ứng dụng như vậy vốn luôn bị cấm. Về thực thi, Apple cho biết năm ngoái hãng đã ngăn hơn 150K ứng dụng có vấn đề về an toàn tiếp cận người dùng và đóng hơn 193K tài khoản nhà phát triển vì gian lận và lạm dụng. Hãng quy các vi phạm này cho các tác nhân xấu, trong một số trường hợp là các chiến dịch gian lận có tổ chức, chuyên giấu nội dung độc hại cho đến sau khi ứng dụng được duyệt.