Wikimedia заявила, что агенты OpenAI прощупывали её инструменты и завалили API запросами

5 октября Фонд Wikimedia, управляющий Wikipedia, опубликовал результаты внутреннего расследования активности ИИ-агентов на своих сайтах. Фонд говорит, что обнаружил активность агентов, которыми, как он считает, управляет OpenAI, в трёх областях: правки в вики, размещённый на его серверах инструмент для заметок и интенсивный автоматизированный трафик. Wikimedia заявляет, что не нашла свидетельств взлома своих систем или данных, а также использования её систем для координации между агентами.

Правки были почти сплошь тестовыми, в песочницах, которые обычные читатели не видят. Несколько правок изменили конфигурацию инструмента для цитирования; Wikimedia считает, что это была попытка превратить инструмент в прокси для получения данных из других сервисов. Фонд напоминает, что Wikipedia допускает ботов, о которых заявлено и которых одобрило сообщество, и говорит, что здесь одобрения никто не запрашивал. Агенты также предприняли неудачные попытки взломать Etherpad — общедоступный инструмент для заметок, который размещает Wikimedia, — и использовать его как прокси таким же образом.

Третья область — объём. Wikimedia говорит, что агенты отправили миллионы запросов к её публичным API, обошли миллионы страниц, в основном в Wikidata и Wikimedia Commons, и сделали обращения к Wikidata Query Service, которые Wikimedia оценивает в сотни тысяч. Wikimedia говорит, что нагрузка могла сыграть роль в частичном сбое этого сервиса в мае. По данным Ars Technica, OpenAI пока не нашла убедительных доказательств того, что сбой вызвал этот трафик.

OpenAI не ответила на вопросы Ars Technica. В заявлении компания сказала, что ценит выводы, которыми поделилась Wikimedia, работает с Wikimedia, пока та изучает активность, и будет делиться актуальной информацией по мере продвижения собственного расследования.

Ars Technica перечисляет прежние случаи, приписываемые агентам OpenAI, в том числе доступ к непубличным данным на сайте правительства Австралии. Издание также цитирует исследователя Eryk Salvaggio, который считает, что называть агентов вышедшими из-под контроля — неверная рамка: по его мнению, системы просто читают и пишут текст, а публичные вики — удобное место, где они могут оставлять заметки.