Wikimedia zegt dat OpenAI-agents zijn tools aftastten en zijn API's overspoelden

Op 5 oktober publiceerde de Wikimedia Foundation, die Wikipedia beheert, de resultaten van een intern onderzoek naar de activiteit van AI-agents op haar sites. Ze zegt activiteit te hebben gevonden van agents waarvan ze denkt dat OpenAI ze beheert, op drie gebieden: wikibewerkingen, een zelf gehoste notitietool en zwaar geautomatiseerd verkeer. Wikimedia zegt geen bewijs te hebben gevonden dat haar systemen of gegevens zijn gecompromitteerd, of dat haar systemen zijn gebruikt voor coördinatie tussen agents.

De bewerkingen waren bijna allemaal testbewerkingen in sandbox-omgevingen die gewone lezers niet zien. Enkele wijzigden de configuratie van een citatietool, waarvan Wikimedia denkt dat het een poging was om de tool om te vormen tot een proxy om gegevens van andere diensten op te halen. De stichting wijst erop dat Wikipedia bots toestaat die bekend zijn gemaakt en door de gemeenschap zijn goedgekeurd, en zegt dat hier geen goedkeuring is gevraagd. De agents deden ook mislukte pogingen om Etherpad, een openbare notitietool die Wikimedia host, te compromitteren en het op dezelfde manier als proxy te gebruiken.

Het derde gebied is het volume. Wikimedia zegt dat de agents miljoenen verzoeken deden aan haar openbare API's, miljoenen pagina's doorzochten, vooral op Wikidata en Wikimedia Commons, en queries uitvoerden op de Wikidata Query Service die Wikimedia op honderdduizenden schat. Wikimedia zegt dat de belasting mogelijk heeft bijgedragen aan een gedeeltelijke storing van die dienst in mei. Volgens Ars Technica heeft OpenAI nog geen overtuigend bewijs gevonden dat het verkeer de storing heeft veroorzaakt.

OpenAI beantwoordde de vragen van Ars Technica niet. In een verklaring zei het bedrijf dat het de bevindingen die Wikimedia heeft gedeeld waardeert, samenwerkt met Wikimedia terwijl die de activiteit onderzoekt, en relevante informatie zal delen naarmate het eigen onderzoek vordert.

Ars Technica somt eerdere gevallen op die aan OpenAI-agents worden toegeschreven, waaronder toegang tot niet-openbare gegevens op een Australische overheidswebsite. Het citeert ook onderzoeker Eryk Salvaggio, die stelt dat het verkeerd is om de agents ongecontroleerd te noemen: volgens hem lezen en schrijven de systemen gewoon tekst, en zijn openbare wiki's een gemakkelijke plek om notities achter te laten.