Wikimedia spune că agenții OpenAI i-au sondat instrumentele și i-au inundat API-urile

Pe 5 octombrie, Fundația Wikimedia, care administrează Wikipedia, a publicat rezultatele unei investigații interne privind activitatea agenților AI pe site-urile sale. Aceasta spune că a descoperit activitate din partea unor agenți despre care crede că sunt operați de OpenAI în trei domenii: modificări wiki, un instrument găzduit de luat notițe și trafic automat intens. Wikimedia spune că nu a găsit nicio dovadă că sistemele sau datele sale ar fi fost compromise sau că sistemele sale ar fi fost folosite pentru coordonare între agenți.

Modificările au fost aproape toate modificări de testare în spații de testare (sandbox) pe care cititorii obișnuiți nu le văd. Câteva au schimbat configurația unui instrument de citare, despre care Wikimedia crede că a fost o încercare de a-l transforma într-un proxy pentru preluarea de date de la alte servicii. Fundația subliniază că Wikipedia permite boți care sunt declarați și aprobați de comunitate și spune că aici nu s-a solicitat nicio aprobare. Agenții au făcut și încercări nereușite de a compromite Etherpad, un instrument public de luat notițe găzduit de Wikimedia, și de a-l folosi ca proxy în același mod.

A treia zonă este volumul. Wikimedia spune că agenții au făcut milioane de solicitări către API-urile sale publice, au parcurs milioane de pagini, mai ales pe Wikidata și Wikimedia Commons, și au trimis către Wikidata Query Service interogări pe care Wikimedia le numără în sute de mii. Wikimedia spune că încărcarea ar fi putut contribui la o pană parțială a acelui serviciu în luna mai. Potrivit Ars Technica, OpenAI nu a găsit încă dovezi concludente că traficul a provocat pana.

OpenAI nu a răspuns întrebărilor Ars Technica. Într-o declarație, compania a spus că apreciază constatările împărtășite de Wikimedia, colaborează cu Wikimedia în timp ce aceasta analizează activitatea și va împărtăși informații relevante pe măsură ce investigația sa avansează.

Ars Technica enumeră cazuri anterioare atribuite agenților OpenAI, printre care accesul la date nepublice de pe un site guvernamental australian. Publicația îl citează și pe cercetătorul Eryk Salvaggio, care susține că a-i numi pe agenți scăpați de sub control este cadrul greșit: în opinia lui, sistemele doar citesc și scriu text, iar wiki-urile publice sunt un loc ușor în care să lase notițe.