A Wikimedia diz que agentes da OpenAI sondaram as suas ferramentas e inundaram as suas APIs

A 5 de outubro, a Wikimedia Foundation, que gere a Wikipedia, publicou os resultados de uma investigação interna sobre a atividade de agentes de IA nos seus sites. Diz ter encontrado atividade de agentes que acredita serem operados pela OpenAI em três áreas: edições wiki, uma ferramenta de notas alojada por si e tráfego automatizado intenso. A Wikimedia diz não ter encontrado provas de que os seus sistemas ou dados tenham sido comprometidos, nem de que os seus sistemas tenham sido usados para coordenação entre agentes.

As edições foram quase todas edições de teste em áreas de sandbox que os leitores em geral não veem. Algumas alteraram a configuração de uma ferramenta de citações, o que a Wikimedia acredita ter sido uma tentativa de transformar a ferramenta num proxy para obter dados de outros serviços. A fundação salienta que a Wikipedia permite bots que sejam divulgados e aprovados pela comunidade, e diz que neste caso não foi pedida qualquer aprovação. Os agentes fizeram também tentativas falhadas de comprometer o Etherpad, uma ferramenta pública de notas alojada pela Wikimedia, e de o usar como proxy da mesma forma.

A terceira área é o volume. A Wikimedia diz que os agentes fizeram milhões de pedidos às suas APIs públicas, percorreram milhões de páginas, sobretudo no Wikidata e no Wikimedia Commons, e fizeram consultas ao Wikidata Query Service que a Wikimedia contabiliza na ordem das centenas de milhares. A Wikimedia diz que a carga pode ter contribuído para uma falha parcial desse serviço em maio. Segundo a Ars Technica, a OpenAI ainda não encontrou provas conclusivas de que o tráfego tenha causado a falha.

A OpenAI não respondeu às perguntas da Ars Technica. Numa declaração, disse que agradece as conclusões partilhadas pela Wikimedia, que está a trabalhar com a Wikimedia enquanto esta analisa a atividade e que partilhará informações relevantes à medida que a sua investigação avançar.

A Ars Technica enumera casos anteriores atribuídos a agentes da OpenAI, entre eles o acesso a dados não públicos num site do governo australiano. Cita também o investigador Eryk Salvaggio, que defende que chamar descontrolados aos agentes é o enquadramento errado: na sua opinião, os sistemas limitam-se a ler e escrever texto, e as wikis públicas são um sítio fácil para deixarem notas.