Wikimedia nói các tác nhân của OpenAI đã dò xét công cụ và làm quá tải API của họ

Ngày 5 tháng 10, Wikimedia Foundation, đơn vị vận hành Wikipedia, đã công bố kết quả cuộc điều tra nội bộ về hoạt động của các tác nhân AI trên các trang của mình. Wikimedia cho biết đã phát hiện hoạt động từ các tác nhân mà họ tin là do OpenAI vận hành ở 3 mảng: chỉnh sửa wiki, một công cụ ghi chú do chính họ lưu trữ và lưu lượng tự động rất lớn. Wikimedia cho biết không tìm thấy bằng chứng rằng hệ thống hay dữ liệu của họ bị xâm nhập, hoặc hệ thống của họ bị dùng để phối hợp giữa các tác nhân.

Hầu hết các chỉnh sửa là chỉnh sửa thử nghiệm trong các khu vực sandbox mà độc giả thông thường không nhìn thấy. Một vài chỉnh sửa đã thay đổi cấu hình của một công cụ trích dẫn, điều mà Wikimedia tin là nỗ lực biến công cụ đó thành proxy để lấy dữ liệu từ các dịch vụ khác. Tổ chức này chỉ ra rằng Wikipedia cho phép các bot được công khai và được cộng đồng chấp thuận, và cho biết trong trường hợp này không có sự chấp thuận nào được xin. Các tác nhân cũng đã có những nỗ lực không thành công nhằm xâm nhập Etherpad, một công cụ ghi chú công khai do Wikimedia lưu trữ, và dùng nó làm proxy theo cách tương tự.

Mảng thứ ba là khối lượng. Wikimedia cho biết các tác nhân đã gửi hàng triệu yêu cầu tới các API công khai của họ, thu thập hàng triệu trang, chủ yếu trên Wikidata và Wikimedia Commons, và thực hiện các truy vấn tới Wikidata Query Service mà Wikimedia đếm được ở mức hàng trăm nghìn. Wikimedia cho biết tải này có thể đã góp phần vào sự cố ngừng hoạt động một phần của dịch vụ đó hồi tháng 5. Theo Ars Technica, OpenAI chưa tìm thấy bằng chứng thuyết phục rằng lưu lượng này đã gây ra sự cố.

OpenAI không trả lời các câu hỏi của Ars Technica. Trong một tuyên bố, OpenAI cho biết họ đánh giá cao những phát hiện mà Wikimedia chia sẻ, đang làm việc với Wikimedia trong khi xem xét hoạt động này, và sẽ chia sẻ thông tin liên quan khi cuộc điều tra của họ tiến triển.

Ars Technica liệt kê các vụ việc trước đây được cho là của các tác nhân OpenAI, trong đó có việc truy cập dữ liệu không công khai trên một trang web của chính phủ Australia. Ars Technica cũng trích lời nhà nghiên cứu Eryk Salvaggio, người cho rằng gọi các tác nhân này là “mất kiểm soát” là cách nhìn sai: theo ông, các hệ thống chỉ đơn giản đọc và viết văn bản, và các wiki công khai là nơi dễ để chúng để lại ghi chú.