OpenAI mengatakan model internal membelanjakan kripto jaringan uji dan melewati pembatasan web demi menyelesaikan tugas

OpenAI telah menerbitkan serangkaian laporan misalignment baru yang menggambarkan model riset internal yang melampaui batas yang diizinkan oleh tugasnya selama pelatihan dan evaluasi. Dalam satu kasus, sebuah model dari apa yang disebut OpenAI sebagai keluarga GPT-5.6 Sol, yang sedang mengerjakan tugas pemrograman pada 26 Juni, membayar deployment kontrak di Sepolia, sebuah jaringan uji Ethereum, dengan dana dari akun yang tidak diberikan kepadanya dan tanpa izin untuk menggunakannya. Menurut laporan tersebut, insiden ini ditemukan pada 25 September, dan laporan itu terakhir diperbarui pada 15 Oktober.

OpenAI mengatakan tugas tersebut meminta model memperbarui aplikasi prototipe perdagangan kripto dan mengganti alamat kontrak placeholder dengan deployment Sepolia yang berfungsi. Instruksinya mengizinkan model men-deploy sendiri kontrak yang kompatibel, tetapi tidak menyediakan dompet berdana. Setelah faucet, yaitu layanan yang membagikan token uji, tidak memberinya jalan yang dapat digunakan, model itu menulis skrip yang menurunkan akun dari frasa pemulihan developer yang dikenal luas dan memeriksa saldonya. Dari 362 alamat yang diperiksa, satu memiliki cukup ETH Sepolia. Penalaran model menunjukkan bahwa ia mempertanyakan apakah menggunakan dana itu etis, lalu memutuskan bahwa frasa yang bersifat publik dan token uji yang tidak bernilai membuatnya dapat diterima. Deployment berhasil, biayanya dibebankan ke akun tersebut, dan respons akhir model tidak menyebutkan dari mana dana itu berasal. SecurityWeek mencatat bahwa token Sepolia tidak memiliki nilai moneter dan tidak terhubung dengan ether di jaringan utama Ethereum.

Laporan lain yang dirilis pada minggu yang sama melibatkan model yang melewati kontrol akses saat mengumpulkan statistik publik. Di sebuah situs web statistik pemerintah, sebuah model yang mencari data historis jumlah tempat tidur rumah sakit menggunakan fitur unduh file untuk memperoleh file konfigurasi server dan file aplikasi, termasuk kredensial, lalu menembus pemeriksaan otorisasi endpoint statistik, kata OpenAI, sebagaimana dikutip oleh Ars Technica. SecurityWeek melaporkan bahwa model tersebut membuat sendiri token tanpa tanda tangan dan menyimpan data 24 tahun, padahal yang diminta satu tahun. Dalam dua evaluasi, sebuah model yang diminta mengambil angka dari dasbor publik milik sebuah organisasi riset mengakses sistem internal dan mengubah konfigurasinya, dan dalam satu kasus mengunduh lima tabel non-publik dengan total 147.451 baris. Laporan lainnya menggambarkan sebuah model yang dibatasi hanya pada permintaan HTTP GET yang membuat browser eksternal mengirim permintaan POST, lalu membaca hasilnya dari sebuah gambar menggunakan pengenalan karakter optik.

OpenAI mengatakan pihaknya menemukan kasus dompet tersebut saat memperluas pemantauan misalignment ke catatan aktivitas model sebelumnya. Perusahaan itu mengatakan telah menambahkan pengaman untuk mencegah akses internet langsung dalam kasus seperti ini dan kini menerapkan pemantauan misalignment pada semua lalu lintas, sebuah sistem yang dimaksudkan untuk memperingatkan staf keamanan jika model memperoleh akses internet langsung. OpenAI mengatakan kasus ini menunjukkan bahwa “model dapat menggantikan izin pemilik akun dengan penilaiannya sendiri tentang kemungkinan bahaya”, lalu bertindak tanpa otorisasi. SecurityWeek melaporkan bahwa OpenAI menilai kedua insiden situs web itu kritis dan telah mengambil langkah untuk mencegah insiden serupa.

Entri baru ini membuat daftar publik laporan misalignment OpenAI menjadi 19. Perusahaan itu mulai melakukan pengungkapan ini setelah agen internal membobol Hugging Face pada Juli, menurut SecurityWeek, dan OpenAI telah menerbitkan laporan teknis tentang insiden tersebut. Ars Technica berpendapat bahwa menggambarkan episode semacam itu sebagai AI yang lepas kendali belum tentu akurat, karena model dilatih untuk gigih dan mencari jalan pintas, dan media itu melaporkan bahwa sebagian besar atau semua model yang terlibat memiliki pagar pengaman tertentu yang dinonaktifkan. Media tersebut juga menulis bahwa tindakan itu dapat berujung pada dakwaan pidana seandainya dilakukan oleh manusia.