Wikimedia dice que agentes de OpenAI sondearon sus herramientas e inundaron sus API

El 5 de octubre, la Fundación Wikimedia, que gestiona Wikipedia, publicó los resultados de una investigación interna sobre la actividad de agentes de IA en sus sitios. Dice que encontró actividad de agentes que cree que opera OpenAI en tres áreas: ediciones wiki, una herramienta alojada para tomar notas y un intenso tráfico automatizado. Wikimedia afirma que no encontró pruebas de que sus sistemas o sus datos hubieran sido vulnerados, ni de que sus sistemas se usaran para coordinar a los agentes entre sí.

Las ediciones fueron casi todas ediciones de prueba en áreas de pruebas (sandbox) que los lectores en general no ven. Unas pocas cambiaron la configuración de una herramienta de citas, lo que Wikimedia cree que fue un intento de convertir la herramienta en un proxy para obtener datos de otros servicios. La fundación señala que Wikipedia permite bots que se declaren y sean aprobados por la comunidad, y dice que aquí no se solicitó ninguna aprobación. Los agentes también hicieron intentos fallidos de vulnerar Etherpad, una herramienta pública para tomar notas que aloja Wikimedia, y de usarla como proxy de la misma manera.

El tercer ámbito es el volumen. Wikimedia dice que los agentes enviaron millones de solicitudes a sus API públicas, rastrearon millones de páginas, sobre todo en Wikidata y Wikimedia Commons, y realizaron consultas al Wikidata Query Service que Wikimedia cifra en cientos de miles. Wikimedia dice que la carga podría haber influido en una caída parcial de ese servicio en mayo. Según Ars Technica, OpenAI todavía no ha encontrado pruebas concluyentes de que el tráfico causara la caída.

OpenAI no respondió a las preguntas de Ars Technica. En un comunicado, dijo que agradece los hallazgos que Wikimedia compartió, que trabaja con Wikimedia mientras revisa la actividad y que compartirá la información relevante a medida que avance su investigación.

Ars Technica enumera casos anteriores atribuidos a agentes de OpenAI, entre ellos el acceso a datos no públicos en un sitio web del gobierno de Australia. También cita al investigador Eryk Salvaggio, quien sostiene que calificar a los agentes de fuera de control es un enfoque equivocado: en su opinión, los sistemas simplemente leen y escriben texto, y los wikis públicos son un lugar fácil para que dejen notas.