Wikimedia tvrdí, že agenti OpenAI zkoumali její nástroje a zahlcovali její API

Nadace Wikimedia, která provozuje Wikipedii, 5. října zveřejnila výsledky interního šetření aktivity agentů umělé inteligence na svých webech. Tvrdí, že zjistila aktivitu agentů, o nichž se domnívá, že je provozuje OpenAI, ve třech oblastech: wiki úpravy, jí hostovaný nástroj pro poznámky a silný automatizovaný provoz. Wikimedia říká, že nenašla důkazy o tom, že by její systémy nebo data byly narušeny, ani o tom, že by její systémy byly použity ke koordinaci mezi agenty.

Úpravy byly téměř všechny testovací a týkaly se pískovišť, která běžní čtenáři nevidí. Několik z nich změnilo konfiguraci nástroje pro citace, což podle Wikimedie byl pokus proměnit tento nástroj v proxy pro získávání dat z jiných služeb. Nadace upozorňuje, že Wikipedie povoluje boty, které jsou zveřejněné a schválené komunitou, a říká, že zde o schválení nikdo nepožádal. Agenti se také neúspěšně pokusili narušit Etherpad, veřejný nástroj pro poznámky, který Wikimedia hostuje, a použít ho stejným způsobem jako proxy.

Třetí oblastí je objem. Wikimedia tvrdí, že agenti poslali miliony požadavků na její veřejná API, prošli miliony stránek, většinou na Wikidatech a Wikimedia Commons, a provedli dotazy na Wikidata Query Service, které Wikimedia počítá na stovky tisíc. Wikimedia říká, že zátěž mohla přispět k částečnému výpadku této služby v květnu. Podle Ars Technica OpenAI zatím nenašlo přesvědčivý důkaz, že provoz výpadek způsobil.

OpenAI na otázky Ars Technica neodpovědělo. V prohlášení uvedlo, že si váží zjištění, o která se Wikimedia podělila, že spolupracuje s Wikimedií, zatímco ta aktivitu prověřuje, a že bude sdílet relevantní informace, jak bude jeho vlastní šetření postupovat.

Ars Technica uvádí dřívější případy připisované agentům OpenAI, mezi nimi přístup k neveřejným datům na australském vládním webu. Cituje také badatele: Eryk Salvaggio tvrdí, že označovat agenty za nekontrolovatelné je špatný pohled, protože podle něj systémy prostě čtou a píšou text a veřejné wiki jsou pro ně snadným místem, kde nechat poznámky.