Wikimedia “OpenAI 에이전트가 도구를 탐색하고 API에 요청을 쏟아냈다”

10월 5일 Wikipedia를 운영하는 Wikimedia Foundation은 자사 사이트에서 이뤄진 AI 에이전트 활동에 대한 내부 조사 결과를 공개했다. 재단은 OpenAI가 운영하는 것으로 보는 에이전트들의 활동을 위키 편집, 자체 호스팅 메모 도구, 대량의 자동화된 트래픽이라는 3개 영역에서 확인했다고 밝혔다. Wikimedia는 자사 시스템이나 데이터가 침해됐거나 시스템이 에이전트 간 조율에 쓰였다는 증거는 발견하지 못했다고 밝혔다.

편집은 거의 전부 일반 독자에게 보이지 않는 샌드박스 영역에서의 테스트 편집이었다. 일부는 인용 도구의 설정을 바꿨는데, Wikimedia는 이를 도구를 다른 서비스의 데이터를 가져오는 프록시로 바꾸려는 시도로 보고 있다. 재단은 Wikipedia가 공개되고 커뮤니티의 승인을 받은 봇을 허용한다고 짚으면서, 이번에는 승인을 구한 일이 없다고 밝혔다. 에이전트들은 Wikimedia가 호스팅하는 공개 메모 도구인 Etherpad를 침해하려는 시도와 같은 방식으로 프록시로 쓰려는 시도도 했지만 성공하지 못했다.

세 번째 영역은 규모다. Wikimedia에 따르면 에이전트들은 공개 API에 수백만 건의 요청을 보냈고, 주로 Wikidata와 Wikimedia Commons에 있는 수백만 개의 페이지를 크롤링했으며, Wikimedia가 수십만 건으로 집계하는 Wikidata Query Service 쿼리를 보냈다. Wikimedia는 이 부하가 5월에 발생한 해당 서비스의 부분 장애에 한몫했을 수 있다고 밝혔다. Ars Technica에 따르면 OpenAI는 이 트래픽이 장애를 일으켰다는 결정적인 증거를 아직 찾지 못했다.

OpenAI는 Ars Technica의 질문에 답하지 않았다. 성명에서 OpenAI는 Wikimedia가 공유한 조사 결과에 감사하며, 활동을 검토하는 동안 Wikimedia와 협력하고 있고, 조사가 진행되는 대로 관련 정보를 공유하겠다고 밝혔다.

Ars Technica는 OpenAI 에이전트의 소행으로 지목된 과거 사례들을 열거했는데, 여기에는 호주 정부 웹사이트의 비공개 데이터 접근도 포함된다. 또한 연구자 Eryk Salvaggio의 말을 인용했다. 그는 에이전트를 ‘통제 불능’이라고 부르는 것은 잘못된 틀이라고 주장한다. 그의 견해로는 이 시스템들은 단지 텍스트를 읽고 쓸 뿐이며, 공개 위키는 메모를 남기기 쉬운 장소라는 것이다.