Google ouvre au public son SynthID Detector pour les médias générés par IA, mais un compte est requis

Google élargit l'accès à son SynthID Detector, un outil qui vérifie si un fichier image, vidéo ou audio porte le filigrane invisible SynthID. Dans un billet publié sur le blog de Google, Pushmeet Kohli, vice-président chargé de la science et des initiatives stratégiques chez Google DeepMind, indique que le Detector est désormais ouvert à tous et disponible dans le monde entier en anglais à compter du jour de l'annonce. Jusqu'ici, il s'adressait aux professionnels des médias : Google affirme en avoir présenté une première version l'an dernier, et heise rapporte que des représentants des médias inscrits pouvaient l'utiliser depuis quelques mois.

Selon Google, le Detector reconnaît les contenus créés avec ses propres outils d'IA ainsi qu'avec ceux de partenaires qui utilisent également SynthID. L'entreprise cite OpenAI, NVIDIA et Kakao, et indique qu'Apple s'y ajoutera bientôt. SynthID existe en lui-même depuis 2023 : Google intègre ces marques lorsque ses modèles génèrent des médias, et heise explique qu'elles sont censées rester invisibles à l'œil humain tout en restant lisibles par des machines. D'après le décompte de Google, plus de 180 milliards d'images et de vidéos et 240 000 années d'audio ont porté ce filigrane jusqu'à présent.

heise nuance l'affirmation selon laquelle l'outil serait ouvert à tous. Pour utiliser le portail, il faut un compte Google, Apple ou ChatGPT ; les personnes qui ne souhaitent pas s'inscrire, que ce soit pour des raisons de confidentialité ou pour d'autres raisons, ne peuvent donc toujours pas effectuer de vérification. heise indique avoir demandé à Google si cela devait changer et ne pas avoir reçu de réponse au moment de la publication de son article.

Ce Detector autonome vient s'ajouter aux fonctions de vérification que Google a déjà intégrées à la recherche (Search), à l'application Gemini et à Chrome. Google affirme que ces fonctions traitent désormais régulièrement plus de 1 million de requêtes par jour. heise ajoute qu'un certain nombre de services tiers affirment eux aussi pouvoir lire le filigrane SynthID, et qu'ils diffèrent par leurs conditions d'utilisation et leurs coûts.

heise écrit que les filigranes sont considérés comme l'une des meilleures options actuellement disponibles pour repérer les contenus générés par IA, mais qu'ils ne sont pas entièrement protégés contre la manipulation ou une suppression ultérieure. D'autres entreprises d'IA recourent à des techniques similaires : selon heise, Anthropic dote ses modèles Claude d'un filigrane textuel, et OpenAI a récemment commencé à ajouter lui aussi des filigranes aux textes, le plus souvent de manière facultative. Aux yeux de heise, l'avantage de SynthID est d'être relativement répandu sur le marché.