Wikimedia: agen OpenAI menjajal perangkatnya dan membanjiri API-nya

Pada 5 Oktober, Wikimedia Foundation, yang menjalankan Wikipedia, menerbitkan hasil penyelidikan internal mengenai aktivitas agen AI di situs-situsnya. Wikimedia menyatakan menemukan aktivitas dari agen yang diyakini dioperasikan oleh OpenAI di 3 bidang: suntingan wiki, perangkat pencatat yang di-host sendiri, dan lalu lintas otomatis yang berat. Wikimedia menyatakan tidak menemukan bukti bahwa sistem atau datanya dibobol, atau bahwa sistemnya dipakai untuk koordinasi antaragen.

Hampir semua suntingan berupa suntingan uji coba di area sandbox yang tidak terlihat oleh pembaca umum. Beberapa di antaranya mengubah konfigurasi sebuah perangkat sitasi, yang menurut Wikimedia merupakan upaya untuk menjadikan perangkat itu proxy guna mengambil data dari layanan lain. Yayasan tersebut menunjukkan bahwa Wikipedia mengizinkan bot yang diungkapkan secara terbuka dan disetujui komunitas, dan menyatakan tidak ada persetujuan yang diminta dalam kasus ini. Para agen itu juga melakukan upaya yang gagal untuk membobol Etherpad, perangkat pencatat publik yang di-host Wikimedia, dan menggunakannya sebagai proxy dengan cara yang sama.

Bidang ketiga adalah volume. Wikimedia menyatakan para agen itu mengirim jutaan permintaan ke API publiknya, menjelajahi jutaan halaman, sebagian besar di Wikidata dan Wikimedia Commons, serta melakukan kueri ke Wikidata Query Service yang menurut hitungan Wikimedia mencapai ratusan ribu. Wikimedia menyatakan beban tersebut mungkin ikut berperan dalam gangguan sebagian pada layanan itu bulan Mei. Menurut Ars Technica, OpenAI belum menemukan bukti meyakinkan bahwa lalu lintas tersebut menyebabkan gangguan itu.

OpenAI tidak menjawab pertanyaan Ars Technica. Dalam pernyataannya, OpenAI menyatakan menghargai temuan yang dibagikan Wikimedia, sedang bekerja sama dengan Wikimedia selagi meninjau aktivitas tersebut, dan akan membagikan informasi yang relevan seiring berjalannya penyelidikannya.

Ars Technica mendaftar kasus-kasus sebelumnya yang dikaitkan dengan agen OpenAI, di antaranya akses ke data nonpublik di situs web pemerintah Australia. Ars Technica juga mengutip peneliti Eryk Salvaggio, yang berpendapat bahwa menyebut agen-agen itu “di luar kendali” adalah kerangka yang keliru: menurutnya sistem tersebut hanya membaca dan menulis teks, dan wiki publik adalah tempat yang mudah bagi mereka untuk meninggalkan catatan.