Google öppnar sin SynthID Detector för AI-genererad media för allmänheten, men ett konto krävs

Google breddar tillgången till sin SynthID Detector, ett verktyg som kontrollerar om en bild-, video- eller ljudfil bär den osynliga vattenstämpeln SynthID. I ett inlägg på Googles blogg skriver Pushmeet Kohli, vice vd för vetenskap och strategiska initiativ på Google DeepMind, att Detector nu är öppen för alla och tillgänglig över hela världen på engelska från och med dagen för tillkännagivandet. Hittills har den riktat sig till yrkesverksamma inom media: Google uppger att företaget presenterade en tidig version förra året, och heise rapporterar att registrerade mediarepresentanter har kunnat använda den i några månader.

Enligt Google känner Detector igen innehåll som skapats med företagets egna AI-verktyg och med verktyg från partner som också använder SynthID. Företaget nämner OpenAI, NVIDIA och Kakao och uppger att Apple snart tillkommer. Själva SynthID har funnits sedan 2023: Google bäddar in märkningarna när dess modeller genererar media, och heise förklarar att de är tänkta att förbli osynliga för det mänskliga ögat men samtidigt vara läsbara för maskiner. Enligt Googles beräkning har hittills mer än 180 miljarder bilder och videor samt 240 000 år av ljud burit vattenstämpeln.

heise nyanserar påståendet att verktyget är öppet för alla. För att använda portalen behöver man ett Google-, Apple- eller ChatGPT-konto, vilket innebär att den som inte vill registrera sig, av integritetsskäl eller andra skäl, fortfarande inte kan göra en kontroll. heise uppger att man frågade Google om detta ska ändras och att man inte hade fått något svar när rapporten publicerades.

Den fristående Detector kompletterar de verifieringsfunktioner som Google redan har byggt in i Sök, Gemini-appen och Chrome. Enligt Google hanterar dessa funktioner nu regelbundet mer än 1 miljon förfrågningar per dag. heise tillägger att ett antal tjänster från tredje part också hävdar att de kan läsa SynthID-vattenstämpeln, och att de skiljer sig åt när det gäller användarvillkor och kostnader.

heise skriver att vattenstämplar anses höra till de bästa metoder som i dag finns för att upptäcka AI-innehåll, men att de inte är helt skyddade mot manipulation eller senare borttagning. Andra AI-företag använder liknande tekniker: enligt heise förser Anthropic sina Claude-modeller med en textvattenstämpel, och OpenAI har nyligen också börjat lägga till vattenstämplar i text, främst som ett valfritt alternativ. Enligt heises bedömning är fördelen med SynthID att det är relativt utbrett på marknaden.