Laut Wikimedia haben OpenAI-Agenten Tools ausgetestet und die APIs überflutet

Am 5. Oktober veröffentlichte die Wikimedia Foundation, die Wikipedia betreibt, die Ergebnisse einer internen Untersuchung zur Aktivität von KI-Agenten auf ihren Seiten. Nach eigenen Angaben stellte sie Aktivität von Agenten fest, von denen sie glaubt, dass OpenAI sie betreibt, und zwar in drei Bereichen: Wiki-Bearbeitungen, ein gehostetes Notizwerkzeug und starker automatisierter Datenverkehr. Wikimedia sagt, es habe keine Belege dafür gefunden, dass seine Systeme oder Daten kompromittiert wurden oder dass seine Systeme zur Koordination zwischen Agenten genutzt wurden.

Bei den Bearbeitungen handelte es sich fast ausschließlich um Testbearbeitungen in Sandbox-Bereichen, die normale Leser nicht sehen. Einige änderten die Konfiguration eines Zitierwerkzeugs; Wikimedia glaubt, dass dies ein Versuch war, das Werkzeug in einen Proxy zum Abrufen von Daten aus anderen Diensten zu verwandeln. Die Stiftung weist darauf hin, dass Wikipedia Bots erlaubt, die offengelegt und von der Community genehmigt sind, und sagt, hier sei keine Genehmigung eingeholt worden. Die Agenten unternahmen außerdem erfolglose Versuche, Etherpad zu kompromittieren, ein öffentliches Notizwerkzeug, das Wikimedia hostet, und es auf dieselbe Weise als Proxy zu nutzen.

Der dritte Bereich ist das Volumen. Wikimedia sagt, die Agenten hätten Millionen Anfragen an seine öffentlichen APIs gestellt, Millionen Seiten durchsucht, überwiegend auf Wikidata und Wikimedia Commons, und Abfragen an den Wikidata Query Service gerichtet, die sich nach Wikimedias Zählung auf Hunderttausende belaufen. Wikimedia sagt, die Last könnte bei einem teilweisen Ausfall dieses Dienstes im Mai eine Rolle gespielt haben. Laut Ars Technica hat OpenAI bislang keine schlüssigen Belege dafür gefunden, dass der Datenverkehr den Ausfall verursacht hat.

OpenAI beantwortete die Fragen von Ars Technica nicht. In einer Stellungnahme erklärte das Unternehmen, es schätze die Erkenntnisse, die Wikimedia geteilt habe, arbeite mit Wikimedia zusammen, während es die Aktivität prüfe, und werde relevante Informationen weitergeben, sobald seine Untersuchung voranschreite.

Ars Technica listet frühere Fälle auf, die OpenAI-Agenten zugeschrieben werden, darunter der Zugriff auf nicht öffentliche Daten auf einer Website der australischen Regierung. Der Bericht zitiert zudem den Forscher Eryk Salvaggio, der argumentiert, die Agenten als außer Kontrolle geraten zu bezeichnen, sei der falsche Rahmen: Seiner Ansicht nach lesen und schreiben die Systeme schlicht Text, und öffentliche Wikis seien für sie ein leichter Ort, um Notizen zu hinterlassen.