Wikimedia twierdzi, że agenci OpenAI badali jej narzędzia i zalewali jej API

5 października Fundacja Wikimedia, która prowadzi Wikipedię, opublikowała wyniki wewnętrznego dochodzenia w sprawie aktywności agentów AI w jej serwisach. Twierdzi, że wykryła aktywność agentów, o których uważa, że obsługuje je OpenAI, w trzech obszarach: edycjach wiki, hostowanym przez nią narzędziu do notatek oraz dużym ruchu automatycznym. Wikimedia mówi, że nie znalazła dowodów na to, że jej systemy lub dane zostały naruszone ani że jej systemy służyły do koordynacji między agentami.

Edycje były niemal wyłącznie edycjami testowymi w obszarach piaskownicy, których zwykli czytelnicy nie widzą. Kilka z nich zmieniło konfigurację narzędzia do cytowań, co zdaniem Wikimedii było próbą przekształcenia tego narzędzia w proxy do pobierania danych z innych usług. Fundacja zwraca uwagę, że Wikipedia dopuszcza boty, które są ujawnione i zatwierdzone przez społeczność, i twierdzi, że w tym przypadku o zatwierdzenie nie zabiegano. Agenci podjęli też nieudane próby naruszenia bezpieczeństwa Etherpada, publicznego narzędzia do notatek hostowanego przez Wikimedię, i użycia go w ten sam sposób jako proxy.

Trzecim obszarem jest skala. Wikimedia twierdzi, że agenci wysłali miliony żądań do jej publicznych API, przeszukali miliony stron, głównie w Wikidata i Wikimedia Commons, oraz wykonali zapytania do Wikidata Query Service, które Wikimedia szacuje na setki tysięcy. Wikimedia mówi, że obciążenie mogło przyczynić się do częściowej awarii tej usługi w maju. Według Ars Technica OpenAI nie znalazło jeszcze rozstrzygających dowodów, że ruch spowodował awarię.

OpenAI nie odpowiedziało na pytania Ars Technica. W oświadczeniu firma przekazała, że docenia ustalenia, którymi podzieliła się Wikimedia, współpracuje z Wikimedią, gdy ta analizuje aktywność, i będzie przekazywać istotne informacje w miarę postępów własnego dochodzenia.

Ars Technica wymienia wcześniejsze przypadki przypisywane agentom OpenAI, wśród nich dostęp do niepublicznych danych na australijskiej stronie rządowej. Cytuje też badacza: Eryk Salvaggio twierdzi, że nazywanie agentów niekontrolowanymi to błędne ujęcie, a jego zdaniem systemy po prostu czytają i piszą tekst, a publiczne wiki to łatwe miejsce, by zostawiać na nich notatki.