Wikimedia dice che agenti di OpenAI hanno sondato i suoi strumenti e inondato le sue API

Il 5 ottobre la Wikimedia Foundation, che gestisce Wikipedia, ha pubblicato i risultati di un’indagine interna sull’attività di agenti di IA sui suoi siti. Dice di aver rilevato attività di agenti che ritiene gestiti da OpenAI in tre ambiti: modifiche wiki, uno strumento ospitato per prendere appunti e un intenso traffico automatizzato. Wikimedia afferma di non aver trovato prove che i suoi sistemi o i suoi dati siano stati compromessi, né che i suoi sistemi siano stati usati per il coordinamento tra agenti.

Le modifiche erano quasi tutte modifiche di prova in aree sandbox che i lettori comuni non vedono. Alcune hanno cambiato la configurazione di uno strumento per le citazioni, cosa che Wikimedia ritiene fosse un tentativo di trasformare lo strumento in un proxy per recuperare dati da altri servizi. La fondazione fa notare che Wikipedia consente bot dichiarati e approvati dalla comunità, e dice che in questo caso non è stata chiesta alcuna approvazione. Gli agenti hanno anche fatto tentativi falliti di compromettere Etherpad, uno strumento pubblico per prendere appunti ospitato da Wikimedia, e di usarlo allo stesso modo come proxy.

Il terzo ambito è il volume. Wikimedia dice che gli agenti hanno inviato milioni di richieste alle sue API pubbliche, effettuato la scansione di milioni di pagine, soprattutto su Wikidata e Wikimedia Commons, e inviato al Wikidata Query Service interrogazioni che Wikimedia quantifica nell’ordine delle centinaia di migliaia. Wikimedia dice che il carico potrebbe aver avuto un ruolo in un’interruzione parziale di quel servizio a maggio. Secondo Ars Technica, OpenAI non ha ancora trovato prove conclusive che il traffico abbia causato l’interruzione.

OpenAI non ha risposto alle domande di Ars Technica. In una dichiarazione ha detto di apprezzare i risultati condivisi da Wikimedia, di lavorare con Wikimedia mentre rivede l’attività e di condividere le informazioni rilevanti man mano che la sua indagine procede.

Ars Technica elenca casi precedenti attribuiti ad agenti di OpenAI, tra cui l’accesso a dati non pubblici su un sito web del governo australiano. Cita anche il ricercatore Eryk Salvaggio, secondo cui definire gli agenti fuori controllo è la cornice sbagliata: a suo avviso i sistemi si limitano a leggere e scrivere testo, e i wiki pubblici sono per loro un posto facile in cui lasciare appunti.