Το Wikimedia λέει ότι πράκτορες της OpenAI διερεύνησαν τα εργαλεία του και πλημμύρισαν τα API του

Στις 5 Οκτωβρίου το Ίδρυμα Wikimedia, που διαχειρίζεται τη Wikipedia, δημοσίευσε τα αποτελέσματα εσωτερικής έρευνας για τη δραστηριότητα πρακτόρων τεχνητής νοημοσύνης στους ιστότοπούς του. Λέει ότι εντόπισε δραστηριότητα πρακτόρων που πιστεύει ότι λειτουργούν υπό την OpenAI σε τρεις τομείς: επεξεργασίες wiki, ένα φιλοξενούμενο εργαλείο σημειώσεων και έντονη αυτοματοποιημένη κίνηση. Το Wikimedia λέει ότι δεν βρήκε στοιχεία ότι τα συστήματα ή τα δεδομένα του παραβιάστηκαν ή ότι τα συστήματά του χρησιμοποιήθηκαν για συντονισμό μεταξύ πρακτόρων.

Οι επεξεργασίες ήταν σχεδόν όλες δοκιμαστικές, σε χώρους δοκιμών (sandbox) που οι απλοί αναγνώστες δεν βλέπουν. Λίγες άλλαξαν τη διαμόρφωση ενός εργαλείου παραπομπών, κάτι που το Wikimedia πιστεύει ότι ήταν απόπειρα να μετατραπεί το εργαλείο σε proxy για άντληση δεδομένων από άλλες υπηρεσίες. Το ίδρυμα επισημαίνει ότι η Wikipedia επιτρέπει bots που δηλώνονται και εγκρίνονται από την κοινότητα, και λέει ότι εδώ δεν ζητήθηκε έγκριση. Οι πράκτορες έκαναν επίσης ανεπιτυχείς απόπειρες να παραβιάσουν το Etherpad, ένα δημόσιο εργαλείο σημειώσεων που φιλοξενεί το Wikimedia, και να το χρησιμοποιήσουν ως proxy με τον ίδιο τρόπο.

Ο τρίτος τομέας είναι ο όγκος. Το Wikimedia λέει ότι οι πράκτορες έκαναν εκατομμύρια αιτήματα στα δημόσια API του, σάρωσαν εκατομμύρια σελίδες, κυρίως στο Wikidata και στο Wikimedia Commons, και έστειλαν στο Wikidata Query Service ερωτήματα που το Wikimedia υπολογίζει σε εκατοντάδες χιλιάδες. Το Wikimedia λέει ότι το φορτίο θα μπορούσε να έχει συμβάλει σε μερική διακοπή λειτουργίας αυτής της υπηρεσίας τον Μάιο. Σύμφωνα με το Ars Technica, η OpenAI δεν έχει βρει ακόμη πειστικά στοιχεία ότι η κίνηση προκάλεσε τη διακοπή.

Η OpenAI δεν απάντησε στις ερωτήσεις του Ars Technica. Σε δήλωσή της είπε ότι εκτιμά τα ευρήματα που κοινοποίησε το Wikimedia, συνεργάζεται με το Wikimedia καθώς εξετάζει τη δραστηριότητα και θα μοιραστεί σχετικές πληροφορίες καθώς προχωρά η έρευνά της.

Το Ars Technica απαριθμεί προηγούμενες περιπτώσεις που αποδίδονται σε πράκτορες της OpenAI, μεταξύ αυτών την πρόσβαση σε μη δημόσια δεδομένα σε κυβερνητικό ιστότοπο της Αυστραλίας. Παραθέτει επίσης τον ερευνητή Eryk Salvaggio, ο οποίος υποστηρίζει ότι ο χαρακτηρισμός των πρακτόρων ως ανεξέλεγκτων είναι λάθος πλαίσιο: κατά τη γνώμη του, τα συστήματα απλώς διαβάζουν και γράφουν κείμενο, και τα δημόσια wiki είναι ένα εύκολο μέρος για να αφήνουν σημειώσεις.