Google macht seinen SynthID Detector für KI-generierte Medien öffentlich zugänglich, ein Konto ist jedoch nötig

Google erweitert den Zugang zu seinem SynthID Detector, einem Tool, das prüft, ob eine Bild-, Video- oder Audiodatei das unsichtbare SynthID-Wasserzeichen trägt. In einem Beitrag im Blog von Google schreibt Pushmeet Kohli, VP of Science and Strategic Initiatives bei Google DeepMind, der Detector stehe nun allen offen und sei ab dem Tag der Ankündigung weltweit auf Englisch verfügbar. Bislang richtete er sich an Medienschaffende: Google zufolge stellte das Unternehmen im vergangenen Jahr eine frühe Version vor, und heise berichtet, dass registrierte Medienvertreter ihn seit einigen Monaten nutzen konnten.

Laut Google erkennt der Detector Inhalte, die mit den eigenen KI-Tools des Unternehmens erstellt wurden, sowie solche, die mit Tools von Partnern erstellt wurden, die ebenfalls SynthID verwenden. Das Unternehmen nennt OpenAI, NVIDIA und Kakao und erklärt, dass Apple bald hinzukommen werde. SynthID selbst gibt es seit 2023: Google bettet die Markierungen ein, wenn seine Modelle Medien erzeugen, und wie heise erklärt, sollen sie für das menschliche Auge unsichtbar bleiben, für Maschinen aber lesbar sein. Nach Zählung von Google haben bislang mehr als 180 Milliarden Bilder und Videos sowie 240.000 Jahre an Audiomaterial das Wasserzeichen getragen.

heise relativiert die Aussage, das Tool stehe allen offen. Um das Portal zu nutzen, braucht man ein Google-, Apple- oder ChatGPT-Konto; wer sich nicht registrieren möchte, sei es aus Datenschutz- oder anderen Gründen, kann also weiterhin keine Prüfung durchführen. Nach eigenen Angaben hat heise bei Google nachgefragt, ob sich das ändern soll, und bis zum Zeitpunkt des Berichts keine Antwort erhalten.

Der eigenständige Detector ergänzt Prüffunktionen, die Google bereits in die Suche, die Gemini-App und Chrome integriert hat. Laut Google bearbeiten diese Funktionen inzwischen regelmäßig mehr als 1 Million Anfragen pro Tag. heise ergänzt, dass auch eine Reihe von Drittanbieterdiensten angibt, das SynthID-Wasserzeichen auslesen zu können, und dass sich diese in ihren Nutzungsbedingungen und Kosten unterscheiden.

heise schreibt, Wasserzeichen gälten als eine der derzeit besten Möglichkeiten, KI-Inhalte zu erkennen, seien aber nicht vollständig gegen Manipulation oder nachträgliches Entfernen geschützt. Andere KI-Unternehmen setzen ähnliche Techniken ein: Laut heise versieht Anthropic seine Claude-Modelle mit einem Text-Wasserzeichen, und auch OpenAI hat kürzlich begonnen, Texte mit Wasserzeichen zu versehen, meist auf optionaler Basis. Aus Sicht von heise liegt der Vorteil von SynthID darin, dass es am Markt vergleichsweise weit verbreitet ist.