Apple מחמירה את כללי App Store בנוגע לתמונות אינטימיות ללא הסכמה ולאפליקציות AI להפשטה

Apple עדכנה את ההנחיות לבדיקת אפליקציות (App Review Guidelines) שלה כך שיתייחסו במפורש לתמונות אינטימיות ללא הסכמה, לרבות תמונות שהופקו בכלי AI, על פי פוסט באתר החדשות למפתחים שלה. החברה הציגה את השינויים כחיזוק והרחבה של ההגנות הקיימות ב-App Store. Apple ציינה שחומר פורנוגרפי אסור זה מכבר בחנות, ואמרה שהדבר כבר מכסה אפליקציות המפיקות עירום או תמונות מיניות בוטות, כגון אפליקציות ״הפשטה״ (nudification) המציגות אנשים אמיתיים בתמונות בוטות ללא הסכמתם.

Apple אמרה שבמסגרת הנחיה 1.2, דרישות ניהול התוכן (content moderation) שלה מציינות כעת תמונות אינטימיות ללא הסכמה, כולל חומר שנוצר באמצעות AI, כתוכן שאפליקציות חייבות למנוע ולהסיר באופן יזום. על פי נוסח ההנחיות, הכלל חל על אפליקציות המאפשרות לאנשים ליצור, לחולל, להעלות או לשתף תוכן, קבוצה הכוללת במפורש שירותי רשתות חברתיות, פלטפורמות של תוכן שנוצר על ידי משתמשים ואפליקציות ליצירת תוכן ב-AI. אפליקציות כאלה חייבות להציע דרך לסנן חומר פוגעני לפני פרסומו, מערכת לדיווח על תוכן פוגעני עם מענה בזמן סביר, דרך לחסום משתמשים מתעללים, ופרטי קשר מפורסמים.

Apple אמרה שמפתחים שאין להם אמצעי הגנה הולמים, או שאינם מתקנים הפרות לאחר שקיבלו הודעה, עלולים להימצא מפרים את קוד ההתנהגות למפתחים (Developer Code of Conduct) ולהיות מוסרים מ-App Store. ההנחיות מתארות את התהליך: אם Apple תמצא תוכן מפר, היא תבקש מהמפתח להסירו ולהגיש תוכנית לשיפור הציות. בהתאם לתגובה, האפליקציה עשויה להיות מוסרת מהחנות עד שהמפתח יוכל להראות שיפורים, והתנהגות חמורה או חוזרת עלולה להוביל להסרה מיידית של האפליקציה ולהרחקה מתוכנית המפתחים של Apple (Apple Developer Program).

שינוי שני נוגע להנחיה 2.5.19, אשר לדברי Apple מבהירה איסור ותיק על אפליקציות המציגות מצג שווא של תפקודן במהלך בדיקת האפליקציה (App Review) ואז משתנות לאחר האישור, למשל על ידי הוספת תכונות שלא היו בגרסה שהוגשה. הפוסט של Apple מכנה טקטיקה זו bait-and-switch (פיתיון והחלפה) ומביא כדוגמה יכולות הפשטה שנחשפו לאחר האישור. נוסח ההנחיות קובע שאפליקציות אסור שיכילו תכונות נסתרות, רדומות או לא מתועדות, מונה ערפול קוד כאחת משיטות ההסתרה, ומזהיר מפני הסרה מהחנות וסגירת חשבון המפתח. Engadget מיסגר את הכלל בעיקר סביב אפליקציות המסתירות תכונות הפשטה.

Apple גם אמרה שעדכנה את סעיף 5 (Section 5) של ההנחיות כך שיקבע שאפליקציות המאפשרות סחר בבני אדם או ניצול ילדים, לרבות חומרי התעללות מינית בילדים, יוסרו מ-App Store וגם ייחסמו מהפצה חלופית; החברה אמרה שאפליקציות כאלה היו אסורות מאז ומתמיד. בנושא האכיפה, Apple אמרה שבשנה שעברה היא מנעה ממשתמשים גישה ליותר מ-150K אפליקציות עם בעיות בטיחות וסגרה יותר מ-193K חשבונות מפתחים בשל הונאה וניצול לרעה. היא ייחסה הפרות אלה לגורמים זדוניים, במקרים מסוימים מבצעי הונאה מתואמים, המסתירים תוכן מזיק עד לאחר אישור האפליקציה.