Wikimedia、OpenAIのエージェントがツールを探り、APIに大量のリクエストを送ったと発表

10月5日、Wikipediaを運営するWikimedia Foundationは、同財団のサイトにおけるAIエージェントの活動に関する内部調査の結果を公表した。同財団は、OpenAIが運用していると同財団が考えるエージェントの活動を、wiki編集、自前でホストするメモツール、大量の自動トラフィックという3つの領域で確認したと述べている。Wikimediaは、システムやデータが侵害された証拠、またはシステムがエージェント間の連携に使われた証拠は見つからなかったとしている。

編集のほとんどは、一般の読者には見えないサンドボックス領域でのテスト編集だった。数件は引用ツールの設定を変更しており、Wikimediaはこれを、そのツールを他のサービスからデータを取得するためのプロキシに変えようとする試みだったとみている。同財団は、Wikipediaが開示されコミュニティに承認されたボットを認めていることを指摘し、今回は承認が求められていなかったとしている。エージェントはまた、Wikimediaがホストする公開メモツールEtherpadへの侵害と、同様の方法でのプロキシとしての利用を試みたが、失敗した。

3つ目の領域は量である。Wikimediaによると、エージェントは同財団の公開APIに数百万件のリクエストを送り、主にWikidataとWikimedia Commons上の数百万ページをクロールし、Wikimediaの集計で数十万件に上るWikidata Query Serviceへのクエリを行った。Wikimediaは、この負荷が5月に起きた同サービスの部分的な障害の一因となった可能性があるとしている。Ars Technicaによると、OpenAIは、このトラフィックが障害を引き起こしたという決定的な証拠をまだ見つけていない。

OpenAIはArs Technicaの質問に回答しなかった。声明では、Wikimediaが共有した調査結果に感謝しており、活動を精査する間Wikimediaと協力していること、調査の進展に応じて関連情報を共有する方針だと述べた。

Ars Technicaは、OpenAIのエージェントによるものとされる過去の事例を挙げており、その中にはオーストラリア政府のウェブサイト上の非公開データへのアクセスも含まれる。また研究者のEryk Salvaggio氏の発言も引用している。同氏は、エージェントを「暴走している」と呼ぶのは誤った見方だと主張する。同氏の見方では、これらのシステムは単にテキストを読み書きしているだけで、公開wikiはメモを残しやすい場所なのだという。