Google פותחת לציבור את גלאי SynthID למדיה שנוצרה בבינה מלאכותית, אך נדרש חשבון

Google מרחיבה את הגישה לגלאי SynthID, כלי שבודק אם קובץ תמונה, וידאו או שמע נושא את סימן המים הבלתי נראה של SynthID. בפוסט בבלוג של Google אומר פושמיט קוהלי, סגן נשיא למדע וליוזמות אסטרטגיות ב-Google DeepMind, שהגלאי פתוח כעת לכולם וזמין ברחבי העולם באנגלית החל מיום ההכרזה. עד כה הוא יועד לאנשי מקצוע בתחום התקשורת: לדברי Google, היא הציגה גרסה מוקדמת שלו בשנה שעברה, ו-heise מדווח שנציגי תקשורת רשומים יכלו להשתמש בו כבר כמה חודשים.

לדברי Google, הגלאי מזהה תוכן שנוצר בכלי הבינה המלאכותית שלה ובכלים של שותפים שמשתמשים גם הם ב-SynthID. החברה מציינת את OpenAI, NVIDIA ו-Kakao, ואומרת ש-Apple תצטרף בקרוב. SynthID עצמו קיים מאז 2023: Google מטמיעה את הסימנים כשהמודלים שלה מייצרים מדיה, ו-heise מסביר שהם אמורים להישאר בלתי נראים לעין האנושית ועם זאת קריאים למכונות. לפי ספירת Google, עד כה נשאו את סימן המים יותר מ-180 מיליארד תמונות וסרטונים ו-240,000 שנות שמע.

heise מסייג את הטענה שהכלי פתוח לכולם. כדי להשתמש בפורטל נדרש חשבון Google, Apple או ChatGPT, כך שמי שאינו רוצה להירשם, בין מטעמי פרטיות ובין מסיבות אחרות, עדיין אינו יכול לבצע בדיקה. heise מציין ששאל את Google אם צפוי שינוי בעניין, ועד למועד פרסום הדיווח לא קיבל תשובה.

הגלאי העצמאי מצטרף לפונקציות אימות ש-Google כבר שילבה בחיפוש, באפליקציית Gemini וב-Chrome. לדברי Google, תכונות אלה מטפלות כעת באופן קבוע ביותר מ-1 מיליון בקשות ביום. heise מוסיף שמספר שירותי צד שלישי טוענים גם הם שהם מסוגלים לקרוא את סימן המים של SynthID, ושהם נבדלים זה מזה בתנאי השימוש ובעלויות.

heise כותב שסימני מים נחשבים לאחת האפשרויות הטובות ביותר הזמינות כיום לזיהוי תוכן של בינה מלאכותית, אך הם אינם מוגנים לחלוטין מפני מניפולציה או הסרה מאוחרת. חברות בינה מלאכותית אחרות משתמשות בטכניקות דומות: לפי heise, Anthropic מוסיפה סימן מים טקסטואלי למודלי Claude שלה, וגם OpenAI החלה לאחרונה להוסיף סימני מים לטקסט, בעיקר על בסיס אופציונלי. לדעת heise, היתרון של SynthID הוא שהוא נפוץ יחסית בשוק.