Google apre al pubblico il suo SynthID Detector per i contenuti generati dall'IA, ma serve un account

Google amplia l'accesso al suo SynthID Detector, uno strumento che verifica se un file di immagine, video o audio contiene la filigrana invisibile SynthID. In un post sul blog di Google, Pushmeet Kohli, VP of Science and Strategic Initiatives di Google DeepMind, afferma che il Detector è ora aperto a tutti e disponibile in tutto il mondo in inglese dal giorno dell'annuncio. Finora era rivolto ai professionisti dei media: Google dice di averne presentato una versione preliminare l'anno scorso, e heise riferisce che i rappresentanti dei media registrati hanno potuto usarlo da alcuni mesi.

Secondo Google, il Detector riconosce i contenuti creati con i suoi strumenti di IA e con quelli dei partner che usano anch'essi SynthID. L'azienda cita OpenAI, NVIDIA e Kakao e afferma che presto si aggiungerà Apple. SynthID esiste dal 2023: Google inserisce i marchi quando i suoi modelli generano contenuti multimediali e, come spiega heise, sono pensati per restare invisibili all'occhio umano pur rimanendo leggibili dalle macchine. Secondo i conteggi di Google, finora più di 180 miliardi di immagini e video e 240.000 anni di audio hanno portato la filigrana.

heise ridimensiona l'affermazione secondo cui lo strumento sarebbe aperto a tutti. Per usare il portale serve un account Google, Apple o ChatGPT, quindi chi non vuole registrarsi, per motivi di privacy o per altre ragioni, continua a non poter effettuare una verifica. heise afferma di aver chiesto a Google se sia previsto un cambiamento e di non aver ricevuto risposta al momento della pubblicazione del suo articolo.

Il Detector autonomo si aggiunge alle funzioni di verifica che Google ha già integrato nella Ricerca, nell'app Gemini e in Chrome. Google afferma che queste funzioni gestiscono ormai regolarmente più di 1 milione di richieste al giorno. heise aggiunge che diversi servizi di terze parti sostengono a loro volta di saper leggere la filigrana SynthID e che si differenziano per condizioni d'uso e costi.

heise scrive che le filigrane sono considerate tra le migliori opzioni attualmente disponibili per individuare i contenuti generati dall'IA, ma che non sono del tutto protette dalla manipolazione o dalla rimozione successiva. Altre aziende di IA usano tecniche simili: secondo heise, Anthropic dota i suoi modelli Claude di una filigrana testuale, e anche OpenAI ha iniziato di recente ad aggiungere filigrane ai testi, perlopiù su base facoltativa. Secondo heise, il vantaggio di SynthID è la sua diffusione relativamente ampia sul mercato.