Apple, App Store kurallarını rıza dışı mahrem görüntüler ve yapay zekâ destekli soyundurma uygulamalarına karşı sıkılaştırdı

Apple, geliştirici haber sitesindeki bir paylaşıma göre, yapay zekâ araçlarıyla üretilen görüntüler de dâhil olmak üzere rızaya dayalı olmayan mahrem görüntüleri açıkça ele almak için Uygulama İnceleme Yönergeleri'ni (App Review Guidelines) güncelledi. Şirket, değişiklikleri mevcut App Store korumalarının güçlendirilmesi ve genişletilmesi olarak sundu. Apple, pornografik materyalin mağazada uzun süredir yasak olduğunu belirtti ve bunun, gerçek kişileri rızaları olmadan müstehcen görüntülerde tasvir eden “nudification” (soyundurma) uygulamaları gibi çıplaklık ya da cinsel açıdan müstehcen görüntüler üreten uygulamaları zaten kapsadığını söyledi.

Apple, 1.2 numaralı yönerge kapsamında içerik moderasyonu gereksinimlerinin artık yapay zekâ ile üretilen materyal de dâhil olmak üzere rızaya dayalı olmayan mahrem görüntüleri, uygulamaların proaktif olarak engellemesi ve kaldırması gereken içerik olarak adlandırdığını söyledi. Yönerge metnine göre kural, kullanıcıların içerik oluşturmasına, üretmesine, yüklemesine veya paylaşmasına imkân veren uygulamalar için geçerli; bu grup sosyal medya hizmetlerini, kullanıcı tarafından oluşturulan içerik platformlarını ve yapay zekâ ile içerik üretme uygulamalarını açıkça kapsıyor. Bu tür uygulamaların, sakıncalı materyali yayımlanmadan önce filtreleyecek bir yöntem, zamanında yanıt verilen bir rahatsız edici içerik bildirme sistemi, kötü niyetli kullanıcıları engelleme imkânı ve yayımlanmış iletişim bilgileri sunması gerekiyor.

Apple, yeterli güvenlik önlemlerine sahip olmayan ya da bildirim aldıktan sonra ihlalleri düzeltmeyen geliştiricilerin Geliştirici Davranış Kuralları'nı (Developer Code of Conduct) ihlal etmiş sayılabileceğini ve App Store'dan çıkarılmayla karşı karşıya kalabileceğini söyledi. Yönergeler süreci şöyle tanımlıyor: Apple ihlal içeren içerik tespit ederse geliştiriciden bunu kaldırmasını ve uyumu iyileştirmeye yönelik bir plan sunmasını isteyecek. Verilen yanıta bağlı olarak uygulama, geliştirici iyileştirmeleri gösterene kadar mağazadan kaldırılabilir; ağır ya da tekrarlanan davranışlar ise uygulamanın derhal kaldırılmasına ve Apple Developer Program'dan (Apple Geliştirici Programı) ihraca yol açabilir.

İkinci bir değişiklik 2.5.19 numaralı yönergeyi ilgilendiriyor; Apple, bu yönergenin Uygulama İncelemesi (App Review) sırasında işlevlerini yanlış tanıtan ve onaylandıktan sonra, örneğin gönderilen sürümde bulunmayan özellikler ekleyerek değişen uygulamalara yönelik uzun süredir geçerli yasağı netleştirdiğini söyledi. Apple'ın paylaşımı bu taktiği bait-and-switch (önce başka bir şey gösterip sonra değiştirme) olarak adlandırıyor ve onaydan sonra ortaya çıkan soyundurma özelliklerini örnek olarak gösteriyor. Yönerge metni, uygulamaların gizli, atıl ya da belgelenmemiş özellikler içermemesi gerektiğini belirtiyor, kod karartmayı (code obfuscation) gizleme yöntemlerinden biri olarak sıralıyor ve mağazadan kaldırma ile geliştirici hesabının feshedilmesi konusunda uyarıyor. Engadget, kuralı esas olarak soyundurma özelliklerini gizleyen uygulamalar çerçevesinde ele aldı.

Apple ayrıca yönergelerin Bölüm 5'ini (Section 5), çocuk cinsel istismarı materyali de dâhil olmak üzere insan ticaretini veya çocuk istismarını mümkün kılan uygulamaların App Store'dan kaldırılacağını ve alternatif dağıtımdan da men edileceğini belirtecek şekilde güncellediğini söyledi; şirket, bu tür uygulamaların her zaman yasak olduğunu ifade etti. Yaptırım konusunda Apple, geçen yıl güvenlik sorunları bulunan 150K'dan fazla uygulamayı kullanıcılardan uzak tuttuğunu ve dolandırıcılık ile kötüye kullanım nedeniyle 193K'dan fazla geliştirici hesabını kapattığını söyledi. Şirket bu ihlalleri, zararlı içeriği uygulama onaylanana kadar gizleyen kötü niyetli aktörlere, bazı durumlarda koordineli dolandırıcılık operasyonlarına bağladı.