Apple perketat aturan App Store soal citra intim tanpa persetujuan dan aplikasi nudify AI

Apple telah merevisi Pedoman Peninjauan Aplikasi (App Review Guidelines) untuk secara eksplisit menangani citra intim tanpa persetujuan, termasuk gambar yang dibuat dengan alat AI, menurut sebuah unggahan di situs berita pengembangnya. Perusahaan itu menyajikan perubahan tersebut sebagai penguatan dan perluasan perlindungan App Store yang sudah ada. Apple mencatat bahwa materi pornografi sejak lama dilarang di toko tersebut, dan mengatakan bahwa larangan ini sudah mencakup aplikasi yang menghasilkan ketelanjangan atau gambar seksual eksplisit, seperti aplikasi “nudification” yang menampilkan orang sungguhan dalam gambar eksplisit tanpa persetujuan mereka.

Berdasarkan pedoman 1.2, Apple mengatakan persyaratan moderasi kontennya kini menyebutkan citra intim tanpa persetujuan, termasuk materi yang dihasilkan dengan AI, sebagai konten yang harus dicegah dan dihapus secara proaktif oleh aplikasi. Menurut teks pedoman, aturan ini berlaku bagi aplikasi yang memungkinkan orang membuat, menghasilkan, mengunggah, atau membagikan konten, suatu kelompok yang secara eksplisit mencakup layanan media sosial, platform konten buatan pengguna, dan aplikasi pembuatan konten AI. Aplikasi semacam itu harus menyediakan cara untuk menyaring materi yang tidak pantas sebelum diunggah, sistem untuk melaporkan konten yang menyinggung dengan tanggapan tepat waktu, cara untuk memblokir pengguna yang bersikap kasar, serta detail kontak yang dipublikasikan.

Apple mengatakan pengembang yang tidak memiliki pengaman memadai, atau yang tidak memperbaiki pelanggaran setelah diberi tahu, dapat dinyatakan melanggar Kode Etik Pengembang (Developer Code of Conduct) dan menghadapi penghapusan dari App Store. Pedoman tersebut menjelaskan prosesnya: jika Apple menemukan konten yang melanggar, Apple akan meminta pengembang menghapusnya dan menyampaikan rencana untuk meningkatkan kepatuhan. Tergantung pada tanggapannya, aplikasi dapat ditarik dari toko sampai pengembang dapat menunjukkan perbaikan, dan perilaku yang keterlaluan atau berulang dapat berujung pada penghapusan aplikasi secara langsung dan pengeluaran dari Apple Developer Program.

Perubahan kedua menyangkut pedoman 2.5.19, yang menurut Apple memperjelas larangan lama atas aplikasi yang menyamarkan fungsinya selama App Review lalu berubah setelah disetujui, misalnya dengan menambahkan fitur yang tidak ada dalam versi yang diajukan. Unggahan Apple menyebut taktik ini bait-and-switch (umpan lalu tukar) dan mengutip kemampuan nudifikasi yang terungkap setelah persetujuan sebagai contoh. Teks pedoman menyatakan aplikasi tidak boleh memuat fitur tersembunyi, tidak aktif, atau tidak terdokumentasi, menyebut obfuskasi kode sebagai salah satu metode penyembunyian, dan memperingatkan penghapusan dari toko serta penghentian akun pengembang. Engadget membingkai aturan ini terutama seputar aplikasi yang menyembunyikan fitur nudifikasi.

Apple juga mengatakan telah memperbarui Bagian 5 (Section 5) pedoman untuk menyatakan bahwa aplikasi yang memungkinkan perdagangan manusia atau eksploitasi anak, termasuk materi pelecehan seksual anak, akan dihapus dari App Store dan juga dilarang dari distribusi alternatif; perusahaan itu mengatakan aplikasi semacam itu memang selalu dilarang. Soal penegakan, Apple mengatakan bahwa tahun lalu pihaknya menjauhkan lebih dari 150K aplikasi bermasalah keamanan dari pengguna dan menutup lebih dari 193K akun pengembang karena penipuan dan penyalahgunaan. Apple mengaitkan pelanggaran ini dengan pelaku jahat, dalam beberapa kasus operasi penipuan terkoordinasi, yang menyembunyikan konten berbahaya hingga setelah aplikasi disetujui.