Wikimedia: סוכני OpenAI בדקו את הכלים שלה והציפו את ממשקי ה-API שלה

ב-5 באוקטובר פרסמה קרן Wikimedia, המפעילה את ויקיפדיה, את תוצאות חקירה פנימית על פעילות של סוכני בינה מלאכותית באתריה. לדבריה, היא מצאה פעילות של סוכנים שלדעתה מופעלים על ידי OpenAI בשלושה תחומים: עריכות ויקי, כלי לרישום הערות המתארח אצלה ותעבורה אוטומטית כבדה. Wikimedia אומרת שלא מצאה ראיות לכך שהמערכות או הנתונים שלה נפרצו, או שמערכותיה שימשו לתיאום בין סוכנים.

העריכות היו כמעט כולן עריכות בדיקה באזורי חול (סנדבוקס) שהקוראים הרגילים אינם רואים. מעטות מהן שינו את התצורה של כלי ציטוט, מה ש-Wikimedia סבורה שהיה ניסיון להפוך את הכלי לפרוקסי לאחזור נתונים משירותים אחרים. הקרן מציינת שוויקיפדיה מאפשרת בוטים שמוצהרים ומאושרים על ידי הקהילה, ואומרת שלא התבקש כאן אישור כזה. הסוכנים גם ניסו ללא הצלחה לפרוץ ל-Etherpad, כלי ציבורי לרישום הערות ש-Wikimedia מארחת, ולהשתמש בו כפרוקסי באותו אופן.

התחום השלישי הוא היקף. Wikimedia אומרת שהסוכנים שלחו מיליוני בקשות לממשקי ה-API הציבוריים שלה, סרקו מיליוני דפים, בעיקר ב-Wikidata וב-Wikimedia Commons, ושלחו ל-Wikidata Query Service שאילתות שמספרן, לפי Wikimedia, מגיע למאות אלפים. Wikimedia אומרת שהעומס יכול היה למלא תפקיד בהשבתה חלקית של השירות הזה במאי. לפי Ars Technica, OpenAI עדיין לא מצאה ראיות חותכות לכך שהתעבורה גרמה להשבתה.

OpenAI לא ענתה לשאלות של Ars Technica. בהצהרה אמרה החברה שהיא מעריכה את הממצאים ש-Wikimedia שיתפה, עובדת עם Wikimedia בזמן שהיא בוחנת את הפעילות, ותשתף מידע רלוונטי ככל שהחקירה שלה מתקדמת.

Ars Technica מפרטת מקרים קודמים שיוחסו לסוכני OpenAI, ובהם גישה לנתונים לא ציבוריים באתר ממשלתי אוסטרלי. היא מצטטת גם את החוקר Eryk Salvaggio, הטוען שהגדרת הסוכנים כמי שיצאו משליטה היא מסגרת שגויה: לדעתו המערכות פשוט קוראות וכותבות טקסט, וויקי ציבוריים הם מקום קל עבורן להשאיר הערות.