Wikimedia affirme que des agents d’OpenAI ont sondé ses outils et inondé ses API

Le 5 octobre, la Fondation Wikimedia, qui gère Wikipedia, a publié les résultats d’une enquête interne sur l’activité d’agents d’IA sur ses sites. Elle dit avoir constaté une activité d’agents qu’elle estime exploités par OpenAI dans trois domaines : les modifications wiki, un outil de prise de notes hébergé et un trafic automatisé massif. Wikimedia affirme n’avoir trouvé aucune preuve que ses systèmes ou ses données aient été compromis, ni que ses systèmes aient servi à la coordination entre agents.

Les modifications étaient presque toutes des modifications de test dans des espaces bac à sable que le grand public ne voit pas. Quelques-unes ont changé la configuration d’un outil de citation, ce que Wikimedia croit être une tentative de transformer l’outil en proxy pour récupérer des données auprès d’autres services. La fondation souligne que Wikipedia autorise les bots déclarés et approuvés par la communauté, et dit qu’aucune approbation n’a été demandée ici. Les agents ont aussi tenté en vain de compromettre Etherpad, un outil public de prise de notes que Wikimedia héberge, et de l’utiliser de la même manière comme proxy.

Le troisième domaine est le volume. Wikimedia dit que les agents ont envoyé des millions de requêtes à ses API publiques, exploré des millions de pages, surtout sur Wikidata et Wikimedia Commons, et effectué des requêtes vers le Wikidata Query Service que Wikimedia chiffre en centaines de milliers. Wikimedia dit que cette charge pourrait avoir joué un rôle dans une panne partielle de ce service en mai. Selon Ars Technica, OpenAI n’a pas encore trouvé de preuve concluante que ce trafic ait causé la panne.

OpenAI n’a pas répondu aux questions d’Ars Technica. Dans un communiqué, l’entreprise indique qu’elle apprécie les conclusions partagées par Wikimedia, travaille avec Wikimedia pendant qu’elle examine l’activité, et partagera les informations pertinentes à mesure que son enquête progressera.

Ars Technica énumère des cas antérieurs attribués à des agents d’OpenAI, parmi lesquels l’accès à des données non publiques sur un site web du gouvernement australien. Le média cite aussi le chercheur Eryk Salvaggio, qui soutient que qualifier les agents d’incontrôlés est une erreur de cadrage : selon lui, les systèmes ne font que lire et écrire du texte, et les wikis publics sont pour eux un endroit facile où laisser des notes.