Google udostępnia publicznie swój SynthID Detector do wykrywania mediów generowanych przez AI, ale wymagane jest konto

Google rozszerza dostęp do SynthID Detector, narzędzia, które sprawdza, czy plik graficzny, wideo lub audio zawiera niewidoczny znak wodny SynthID. We wpisie na blogu Google Pushmeet Kohli, wiceprezes ds. nauki i inicjatyw strategicznych w Google DeepMind, pisze, że Detector jest teraz otwarty dla wszystkich i od dnia ogłoszenia dostępny na całym świecie w języku angielskim. Dotychczas narzędzie było skierowane do profesjonalistów z branży medialnej: Google podaje, że wczesną wersję wprowadził w ubiegłym roku, a heise informuje, że zarejestrowani przedstawiciele mediów mogli z niego korzystać od kilku miesięcy.

Według Google Detector rozpoznaje treści utworzone za pomocą własnych narzędzi AI firmy oraz narzędzi partnerów, którzy również korzystają z SynthID. Firma wymienia OpenAI, NVIDIA i Kakao oraz zapowiada, że wkrótce dołączy Apple. Sam SynthID istnieje od 2023 roku: Google osadza znaczniki, gdy jego modele generują media, a heise wyjaśnia, że mają one pozostawać niewidoczne dla ludzkiego oka, a jednocześnie czytelne dla maszyn. Według wyliczeń Google znak wodny otrzymało dotąd ponad 180 miliardów obrazów i filmów oraz 240 000 lat nagrań audio.

heise opatruje zastrzeżeniem twierdzenie, że narzędzie jest otwarte dla wszystkich. Aby korzystać z portalu, potrzebne jest konto Google, Apple lub ChatGPT, więc osoby, które nie chcą się rejestrować, czy to ze względu na prywatność, czy z innych powodów, nadal nie mogą przeprowadzić sprawdzenia. heise podaje, że zapytał Google, czy ma się to zmienić, i do momentu publikacji swojego artykułu nie otrzymał odpowiedzi.

Samodzielny Detector uzupełnia funkcje weryfikacji, które Google wbudował już w wyszukiwarkę, aplikację Gemini i przeglądarkę Chrome. Według Google funkcje te obsługują obecnie regularnie ponad 1 milion zapytań dziennie. heise dodaje, że również szereg usług firm trzecich deklaruje możliwość odczytania znaku wodnego SynthID i że różnią się one warunkami korzystania oraz kosztami.

heise pisze, że znaki wodne uchodzą za jedną z najlepszych obecnie dostępnych metod wykrywania treści AI, ale nie są w pełni zabezpieczone przed manipulacją ani późniejszym usunięciem. Inne firmy AI stosują podobne techniki: według heise Anthropic opatruje swoje modele Claude tekstowym znakiem wodnym, a OpenAI również niedawno zaczął dodawać znaki wodne do tekstu, przeważnie opcjonalnie. Zdaniem heise zaletą SynthID jest to, że jest stosunkowo szeroko rozpowszechniony na rynku.