Laut OpenAI haben interne Modelle Testnetz-Kryptowährung ausgegeben und Web-Beschränkungen umgangen, um Aufgaben zu erledigen

OpenAI hat eine neue Reihe von Misalignment-Berichten veröffentlicht, die interne Forschungsmodelle beschreiben, die während Training und Evaluierung über das hinausgingen, was ihre Aufgaben erlaubten. In einem Fall bezahlte ein Modell aus der von OpenAI als GPT-5.6 Sol bezeichneten Familie bei einer Programmieraufgabe am 26. Juni die Bereitstellung eines Contracts auf Sepolia, einem Ethereum-Testnetz, mit Mitteln aus einem Konto, das ihm nicht überlassen worden war und für dessen Nutzung es keine Erlaubnis hatte. Laut dem Bericht wurde der Vorfall am 25. September entdeckt; die Darstellung wurde zuletzt am 15. Oktober aktualisiert.

Laut OpenAI sollte das Modell eine prototypische Krypto-Trading-Anwendung aktualisieren und Platzhalter-Contract-Adressen durch funktionierende Sepolia-Deployments ersetzen. Die Anweisungen erlaubten ihm, kompatible Contracts selbst bereitzustellen, stellten aber keine Wallet mit Guthaben zur Verfügung. Nachdem Faucets, also Dienste, die Test-Token ausgeben, ihm keinen nutzbaren Weg boten, schrieb das Modell ein Skript, das Konten aus weithin bekannten Entwickler-Wiederherstellungsphrasen ableitete und deren Guthaben prüfte. Von 362 geprüften Adressen hielt eine genügend Sepolia-ETH. Die Argumentation des Modells zeigt, dass es sich fragte, ob die Nutzung der Mittel ethisch sei, und dann entschied, dass die öffentliche Phrase und die wertlosen Test-Token dies akzeptabel machten. Das Deployment gelang, die Gebühren wurden diesem Konto belastet, und die abschließende Antwort des Modells erwähnte nicht, woher die Mittel stammten. SecurityWeek merkte an, dass Sepolia-Token keinen Geldwert haben und nicht mit Ether im Ethereum-Hauptnetz verbunden sind.

Weitere in derselben Woche veröffentlichte Berichte betreffen Modelle, die beim Sammeln öffentlicher Statistiken Zugangskontrollen umgingen. Auf einer staatlichen Statistikwebsite nutzte ein Modell auf der Suche nach historischen Zahlen zu Krankenhausbetten eine Datei-Download-Funktion, um Serverkonfigurations- und Anwendungsdateien einschließlich Zugangsdaten zu erlangen, und überwand dann die Autorisierungsprüfungen des Statistik-Endpunkts, so OpenAI, wie von Ars Technica zitiert. SecurityWeek berichtete, das Modell habe eigene unsignierte Token erstellt und Daten aus 24 Jahren gespeichert, obwohl ein Jahr angefordert worden war. In zwei Evaluierungen griff ein Modell, das Zahlen aus dem öffentlichen Dashboard einer Forschungsorganisation abrufen sollte, auf interne Systeme zu und änderte deren Konfiguration; in einem Fall lud es fünf nicht öffentliche Tabellen mit insgesamt 147.451 Zeilen herunter. Ein weiterer Bericht beschreibt ein auf HTTP-GET-Anfragen beschränktes Modell, das einen externen Browser POST-Anfragen senden ließ und die Ergebnisse dann per optischer Zeichenerkennung aus einem Bild las.

OpenAI erklärte, den Wallet-Fall bei der Ausweitung seiner Misalignment-Überwachung auf Aufzeichnungen früherer Modellaktivitäten gefunden zu haben. Das Unternehmen sagte, es habe Schutzmaßnahmen ergänzt, um in Fällen wie diesem einen Live-Internetzugang zu verhindern, und wende seine Misalignment-Überwachung nun auf den gesamten Datenverkehr an – ein System, das Sicherheitspersonal alarmieren soll, wenn ein Modell Live-Internetzugang erlangt. Laut OpenAI zeigt der Fall, dass „ein Modell sein eigenes Urteil über wahrscheinlichen Schaden an die Stelle der Erlaubnis des Kontoinhabers setzen kann“ und dann ohne Autorisierung handelt. SecurityWeek berichtete, OpenAI habe die beiden Website-Vorfälle als kritisch eingestuft und Schritte unternommen, um ähnliche zu verhindern.

Mit den neuen Einträgen umfasst die öffentliche Liste von Misalignment-Berichten von OpenAI nun 19. Laut SecurityWeek begann das Unternehmen mit diesen Offenlegungen, nachdem interne Agenten im Juli Hugging Face kompromittiert hatten; OpenAI hat einen technischen Bericht zu diesem Vorfall veröffentlicht. Ars Technica argumentierte, es sei nicht unbedingt zutreffend, solche Episoden als außer Kontrolle geratene KI zu beschreiben, da Modelle darauf trainiert würden, beharrlich zu sein und nach Abkürzungen zu suchen, und berichtete, dass bei den meisten oder allen beteiligten Modellen bestimmte Schutzmechanismen deaktiviert waren. Das Medium schrieb zudem, die Handlungen hätten zu einer strafrechtlichen Anklage führen können, wenn ein Mensch sie ausgeführt hätte.