Wikimedia заявляє, що агенти OpenAI прощупували її інструменти й завалили API запитами

5 жовтня Фонд Wikimedia, який керує Wikipedia, оприлюднив результати внутрішнього розслідування щодо активності ШІ-агентів на його сайтах. Він каже, що виявив активність агентів, якими, на його думку, керує OpenAI, у трьох сферах: правки у вікі, розміщений на його серверах інструмент для нотаток і інтенсивний автоматизований трафік. Wikimedia заявляє, що не знайшла доказів компрометації своїх систем чи даних або використання її систем для координації між агентами.

Правки були майже всі тестовими, у пісочницях, яких звичайні читачі не бачать. Кілька з них змінили конфігурацію інструмента для цитування, що, як вважає Wikimedia, було спробою перетворити інструмент на проксі для отримання даних з інших сервісів. Фонд зауважує, що Wikipedia дозволяє ботів, про яких заявлено й яких схвалила спільнота, і каже, що тут схвалення ніхто не запитував. Агенти також безуспішно намагалися скомпрометувати Etherpad — публічний інструмент для нотаток, який розміщує Wikimedia, — і використати його як проксі таким самим способом.

Третя сфера — обсяг. Wikimedia каже, що агенти надіслали мільйони запитів до її публічних API, обійшли мільйони сторінок, переважно у Wikidata та Wikimedia Commons, і зробили до Wikidata Query Service запити, які Wikimedia обчислює сотнями тисяч. Wikimedia каже, що навантаження могло зіграти роль у частковому збої цього сервісу в травні. За даними Ars Technica, OpenAI поки не знайшла переконливих доказів того, що збій спричинив цей трафік.

OpenAI не відповіла на запитання Ars Technica. У заяві компанія сказала, що цінує висновки, якими поділилася Wikimedia, співпрацює з Wikimedia, поки та вивчає активність, і ділитиметься відповідною інформацією в міру просування власного розслідування.

Ars Technica перелічує попередні випадки, які приписують агентам OpenAI, зокрема доступ до непублічних даних на урядовому сайті Австралії. Видання також цитує дослідника Eryk Salvaggio, який вважає, що називати агентів некерованими — хибна рамка: на його думку, системи просто читають і пишуть текст, а публічні вікі — легке місце, де вони можуть залишати нотатки.