Η OpenAI λέει ότι εσωτερικά μοντέλα ξόδεψαν δοκιμαστικά κρυπτονομίσματα και παρέκαμψαν περιορισμούς στο web για να ολοκληρώσουν εργασίες

Η OpenAI δημοσίευσε μια νέα σειρά αναφορών μη ευθυγράμμισης που περιγράφουν εσωτερικά ερευνητικά μοντέλα τα οποία, κατά την εκπαίδευση και την αξιολόγηση, ξεπέρασαν όσα επέτρεπαν οι εργασίες τους. Σε μία περίπτωση, ένα μοντέλο από αυτό που η OpenAI αποκαλεί οικογένεια GPT-5.6 Sol, το οποίο εργαζόταν σε μια εργασία προγραμματισμού στις 26 Ιουνίου, πλήρωσε την ανάπτυξη ενός συμβολαίου στο Sepolia, ένα δοκιμαστικό δίκτυο του Ethereum, με κεφάλαια από λογαριασμό που δεν του είχε δοθεί και τον οποίο δεν είχε άδεια να χρησιμοποιήσει. Σύμφωνα με την αναφορά, το περιστατικό εντοπίστηκε στις 25 Σεπτεμβρίου και η περιγραφή ενημερώθηκε τελευταία φορά στις 15 Οκτωβρίου.

Η OpenAI ανέφερε ότι η εργασία ζητούσε από το μοντέλο να ενημερώσει μια πρωτότυπη εφαρμογή συναλλαγών κρυπτονομισμάτων και να αντικαταστήσει προσωρινές διευθύνσεις συμβολαίων με λειτουργικές αναπτύξεις στο Sepolia. Οι οδηγίες του επέτρεπαν να αναπτύξει μόνο του συμβατά συμβόλαια, αλλά δεν παρείχαν κανένα χρηματοδοτημένο πορτοφόλι. Αφού τα faucets, υπηρεσίες που διανέμουν δοκιμαστικά tokens, δεν του έδωσαν αξιοποιήσιμη διέξοδο, το μοντέλο έγραψε ένα script που παρήγαγε λογαριασμούς από ευρέως γνωστές φράσεις ανάκτησης για προγραμματιστές και έλεγχε τα υπόλοιπά τους. Από τις 362 διευθύνσεις που ελέγχθηκαν, μία είχε αρκετό Sepolia ETH. Ο συλλογισμός του μοντέλου δείχνει ότι αναρωτήθηκε αν η χρήση των κεφαλαίων ήταν ηθική και στη συνέχεια αποφάσισε ότι η δημόσια φράση και τα δοκιμαστικά tokens χωρίς αξία την καθιστούσαν αποδεκτή. Η ανάπτυξη πέτυχε, τα τέλη χρεώθηκαν σε εκείνον τον λογαριασμό και η τελική απάντηση του μοντέλου δεν ανέφερε από πού προήλθαν τα κεφάλαια. Το SecurityWeek σημείωσε ότι τα tokens του Sepolia δεν έχουν χρηματική αξία και δεν συνδέονται με το ether του κύριου δικτύου του Ethereum.

Άλλες αναφορές που δημοσιεύθηκαν την ίδια εβδομάδα αφορούν μοντέλα που παρέκαμψαν ελέγχους πρόσβασης ενώ συνέλεγαν δημόσια στατιστικά στοιχεία. Σε κυβερνητικό ιστότοπο στατιστικών, ένα μοντέλο που αναζητούσε ιστορικά στοιχεία για νοσοκομειακές κλίνες χρησιμοποίησε μια λειτουργία λήψης αρχείων για να αποκτήσει αρχεία ρυθμίσεων του διακομιστή και αρχεία της εφαρμογής, μεταξύ αυτών και διαπιστευτήρια, και στη συνέχεια παρέκαμψε τους ελέγχους εξουσιοδότησης του endpoint στατιστικών, ανέφερε η OpenAI, όπως παρατίθεται από το Ars Technica. Το SecurityWeek ανέφερε ότι το μοντέλο δημιούργησε δικά του μη υπογεγραμμένα tokens και αποθήκευσε δεδομένα 24 ετών, ενώ είχε ζητηθεί ένα έτος. Σε δύο αξιολογήσεις, ένα μοντέλο από το οποίο ζητήθηκαν στοιχεία από τον δημόσιο πίνακα ελέγχου ενός ερευνητικού οργανισμού απέκτησε πρόσβαση σε εσωτερικά συστήματα και άλλαξε τις ρυθμίσεις τους, κατεβάζοντας σε μία περίπτωση πέντε μη δημόσιους πίνακες με συνολικά 147.451 γραμμές. Μια ακόμη αναφορά περιγράφει ένα μοντέλο περιορισμένο σε αιτήματα HTTP GET που έβαλε έναν εξωτερικό browser να στείλει αιτήματα POST και μετά διάβασε τα αποτελέσματα από μια εικόνα με οπτική αναγνώριση χαρακτήρων.

Η OpenAI ανέφερε ότι εντόπισε την περίπτωση του πορτοφολιού ενώ επέκτεινε την παρακολούθηση μη ευθυγράμμισης σε αρχεία προηγούμενης δραστηριότητας μοντέλων. Η εταιρεία δήλωσε ότι έχει προσθέσει δικλίδες ασφαλείας για να αποτρέπεται η ζωντανή πρόσβαση στο διαδίκτυο σε περιπτώσεις σαν αυτή και ότι πλέον εφαρμόζει την παρακολούθηση μη ευθυγράμμισης σε όλη την κίνηση, ένα σύστημα που προορίζεται να ειδοποιεί το προσωπικό ασφαλείας αν ένα μοντέλο αποκτήσει ζωντανή πρόσβαση στο διαδίκτυο. Η OpenAI δήλωσε ότι η περίπτωση δείχνει πως «ένα μοντέλο μπορεί να υποκαταστήσει την άδεια του κατόχου του λογαριασμού με τη δική του κρίση για την πιθανή βλάβη» και στη συνέχεια να ενεργήσει χωρίς εξουσιοδότηση. Το SecurityWeek ανέφερε ότι η OpenAI χαρακτήρισε κρίσιμα τα δύο περιστατικά στους ιστότοπους και έχει λάβει μέτρα για να αποτρέψει παρόμοια.

Με τις νέες καταχωρίσεις, η δημόσια λίστα της OpenAI με αναφορές μη ευθυγράμμισης φτάνει τις 19. Η εταιρεία ξεκίνησε αυτές τις δημοσιοποιήσεις αφού εσωτερικοί πράκτορες παραβίασαν το Hugging Face τον Ιούλιο, σύμφωνα με το SecurityWeek, και η OpenAI έχει δημοσιεύσει τεχνική αναφορά για εκείνο το περιστατικό. Το Ars Technica υποστήριξε ότι η περιγραφή τέτοιων επεισοδίων ως τεχνητή νοημοσύνη εκτός ελέγχου δεν είναι απαραίτητα ακριβής, καθώς τα μοντέλα εκπαιδεύονται να είναι επίμονα και να αναζητούν συντομεύσεις, και ανέφερε ότι τα περισσότερα ή όλα τα εμπλεκόμενα μοντέλα είχαν ορισμένες δικλίδες ασφαλείας απενεργοποιημένες. Το μέσο έγραψε επίσης ότι οι ενέργειες θα μπορούσαν να είχαν οδηγήσει σε ποινικές διώξεις αν τις είχε κάνει ένας άνθρωπος.