Η Apple αυστηροποιεί τους κανόνες του App Store για μη συναινετικές εικόνες προσωπικής φύσης και εφαρμογές ψηφιακού ξεγυμνώματος με AI

Η Apple αναθεώρησε τις Οδηγίες Ελέγχου Εφαρμογών (App Review Guidelines) ώστε να αντιμετωπίζουν ρητά τις μη συναινετικές εικόνες προσωπικής φύσης, συμπεριλαμβανομένων εικόνων που παράγονται με εργαλεία AI, σύμφωνα με ανάρτηση στον ιστότοπο ειδήσεων για προγραμματιστές της εταιρείας. Η εταιρεία παρουσίασε τις αλλαγές ως ενίσχυση και επέκταση των υφιστάμενων προστασιών του App Store. Η Apple σημείωσε ότι το πορνογραφικό υλικό απαγορεύεται εδώ και καιρό από το κατάστημα και δήλωσε ότι αυτό καλύπτει ήδη εφαρμογές που παράγουν γυμνό ή σεξουαλικά ρητές εικόνες, όπως οι εφαρμογές «ξεγυμνώματος» που απεικονίζουν πραγματικά πρόσωπα σε ρητές εικόνες χωρίς τη συναίνεσή τους.

Βάσει της οδηγίας 1.2, η Apple δήλωσε ότι οι απαιτήσεις της για την εποπτεία περιεχομένου κατονομάζουν πλέον τις μη συναινετικές εικόνες προσωπικής φύσης, συμπεριλαμβανομένου υλικού που δημιουργείται με AI, ως περιεχόμενο που οι εφαρμογές πρέπει να προλαμβάνουν ενεργά και να αφαιρούν. Σύμφωνα με το κείμενο των οδηγιών, ο κανόνας ισχύει για εφαρμογές που επιτρέπουν στους χρήστες να δημιουργούν, να παράγουν, να ανεβάζουν ή να μοιράζονται περιεχόμενο, μια κατηγορία που περιλαμβάνει ρητά υπηρεσίες κοινωνικών δικτύων, πλατφόρμες περιεχομένου χρηστών και εφαρμογές δημιουργίας περιεχομένου με AI. Οι εφαρμογές αυτές πρέπει να παρέχουν τρόπο φιλτραρίσματος απαράδεκτου υλικού πριν από τη δημοσίευσή του, σύστημα αναφοράς προσβλητικού περιεχομένου με έγκαιρη ανταπόκριση, δυνατότητα αποκλεισμού καταχρηστικών χρηστών και δημοσιευμένα στοιχεία επικοινωνίας.

Η Apple δήλωσε ότι προγραμματιστές που δεν διαθέτουν επαρκείς δικλείδες ασφαλείας, ή που δεν διορθώνουν παραβάσεις μετά από ειδοποίηση, ενδέχεται να κριθεί ότι παραβιάζουν τον Κώδικα Δεοντολογίας Προγραμματιστών (Developer Code of Conduct) και να αντιμετωπίσουν αφαίρεση από το App Store. Οι οδηγίες περιγράφουν τη διαδικασία: αν η Apple εντοπίσει παραβατικό περιεχόμενο, θα ζητήσει από τον προγραμματιστή να το αφαιρέσει και να παρουσιάσει σχέδιο για τη βελτίωση της συμμόρφωσης. Ανάλογα με την ανταπόκριση, η εφαρμογή μπορεί να αποσυρθεί από το κατάστημα έως ότου ο προγραμματιστής μπορέσει να επιδείξει βελτιώσεις, ενώ κατάφωρη ή επαναλαμβανόμενη συμπεριφορά μπορεί να οδηγήσει σε άμεση αφαίρεση της εφαρμογής και αποπομπή από το Πρόγραμμα Προγραμματιστών της Apple (Apple Developer Program).

Μια δεύτερη αλλαγή αφορά την οδηγία 2.5.19, η οποία, όπως δήλωσε η Apple, αποσαφηνίζει μια μακροχρόνια απαγόρευση εφαρμογών που παραποιούν τη λειτουργία τους κατά τη διαδικασία ελέγχου App Review και στη συνέχεια αλλάζουν μόλις εγκριθούν, για παράδειγμα προσθέτοντας λειτουργίες που απουσίαζαν από την υποβληθείσα έκδοση. Η ανάρτηση της Apple αποκαλεί αυτή την τακτική bait-and-switch (δόλωμα και αντικατάσταση) και αναφέρει ως παράδειγμα δυνατότητες ψηφιακού ξεγυμνώματος που αποκαλύπτονται μετά την έγκριση. Το κείμενο των οδηγιών αναφέρει ότι οι εφαρμογές δεν πρέπει να περιέχουν κρυφές, ανενεργές ή μη τεκμηριωμένες λειτουργίες, κατονομάζει τη συσκότιση κώδικα ως μία μέθοδο απόκρυψης και προειδοποιεί για αφαίρεση από το κατάστημα και τερματισμό του λογαριασμού προγραμματιστή. Το Engadget πλαισίωσε τον κανόνα κυρίως γύρω από εφαρμογές που αποκρύπτουν λειτουργίες ψηφιακού ξεγυμνώματος.

Η Apple δήλωσε επίσης ότι ενημέρωσε την Ενότητα 5 (Section 5) των οδηγιών ώστε να ορίζει ότι εφαρμογές που διευκολύνουν την εμπορία ανθρώπων ή την εκμετάλλευση παιδιών, συμπεριλαμβανομένου υλικού σεξουαλικής κακοποίησης παιδιών, θα αφαιρούνται από το App Store και θα αποκλείονται επίσης από την εναλλακτική διανομή· η εταιρεία δήλωσε ότι τέτοιες εφαρμογές ήταν πάντα απαγορευμένες. Ως προς την επιβολή, η Apple δήλωσε ότι πέρυσι κράτησε μακριά από τους χρήστες περισσότερες από 150K εφαρμογές με προβλήματα ασφάλειας και έκλεισε περισσότερους από 193K λογαριασμούς προγραμματιστών για απάτη και κατάχρηση. Απέδωσε αυτές τις παραβάσεις σε κακόβουλους παράγοντες, σε ορισμένες περιπτώσεις σε συντονισμένες επιχειρήσεις απάτης, που κρύβουν επιβλαβές περιεχόμενο έως ότου εγκριθεί η εφαρμογή.