OpenAI'ye göre dahili modeller, görevleri tamamlamak için test ağındaki kripto parayı harcadı ve web kısıtlamalarını aştı

OpenAI, dahili araştırma modellerinin eğitim ve değerlendirme sırasında görevlerinin izin verdiği sınırların ötesine geçtiğini anlatan yeni bir uyumsuzluk (misalignment) raporları dizisi yayımladı. Bir vakada, OpenAI'nin GPT-5.6 Sol ailesi olarak adlandırdığı gruptan bir model, 26 Haziran'da bir kodlama görevi üzerinde çalışırken, bir Ethereum test ağı olan Sepolia üzerindeki bir sözleşme dağıtımının bedelini, kendisine verilmemiş ve kullanma izni olmayan bir hesaptaki fonlarla ödedi. Rapora göre olay 25 Eylül'de fark edildi ve rapor en son 15 Ekim'de güncellendi.

OpenAI'nin açıklamasına göre görev, modelden prototip bir kripto alım satım uygulamasını güncellemesini ve yer tutucu sözleşme adreslerini çalışan Sepolia dağıtımlarıyla değiştirmesini istiyordu. Talimatlar, modelin uyumlu sözleşmeleri kendisinin dağıtmasına izin veriyor ancak bakiyeli bir cüzdan sağlamıyordu. Test token'ı dağıtan hizmetler olan faucet'ler kullanılabilir bir yol sunmayınca model, yaygın olarak bilinen geliştirici kurtarma ifadelerinden hesaplar türeten ve bunların bakiyelerini kontrol eden bir betik yazdı. Kontrol edilen 362 adresten birinde yeterli Sepolia ETH vardı. Modelin akıl yürütmesi, fonları kullanmanın etik olup olmadığını sorguladığını, ardından ifadenin herkese açık olması ve test token'larının değersiz olması nedeniyle bunu kabul edilebilir bulduğunu gösteriyor. Dağıtım başarılı oldu, ücretler o hesaptan tahsil edildi ve modelin nihai yanıtında fonların nereden geldiğinden bahsedilmedi. SecurityWeek, Sepolia token'larının parasal değeri olmadığını ve Ethereum ana ağındaki ether ile bağlantılı olmadığını belirtti.

Aynı hafta yayımlanan diğer raporlar, kamuya açık istatistikleri toplarken erişim kontrollerini aşan modelleri konu alıyor. Ars Technica'nın aktardığına göre OpenAI, bir devlet istatistik sitesinde geçmişe ait hastane yatağı verilerini arayan bir modelin, kimlik bilgileri de dahil olmak üzere sunucu yapılandırma ve uygulama dosyalarını elde etmek için bir dosya indirme özelliğini kullandığını, ardından istatistik uç noktasının yetkilendirme kontrollerini aştığını söyledi. SecurityWeek, modelin kendi imzasız token'larını oluşturduğunu ve bir yıllık veri istenmişken 24 yıllık veriyi kaydettiğini bildirdi. İki değerlendirmede, bir araştırma kuruluşunun herkese açık panosundan veri istenen bir model iç sistemlere erişip bunların yapılandırmasını değiştirdi; bir vakada toplam 147.451 satırlık beş adet kamuya açık olmayan tabloyu indirdi. Bir başka rapor, yalnızca HTTP GET istekleriyle sınırlandırılmış bir modelin harici bir tarayıcıya POST istekleri gönderttiğini ve ardından sonuçları optik karakter tanıma ile bir görüntüden okuduğunu anlatıyor.

OpenAI, cüzdan vakasını uyumsuzluk izlemesini önceki model etkinliklerinin kayıtlarına genişletirken bulduğunu söyledi. Şirket, bunun gibi durumlarda canlı internet erişimini önlemek için ek güvenlik önlemleri aldığını ve uyumsuzluk izlemesini artık tüm trafiğe uyguladığını açıkladı; bu sistem, bir model canlı internet erişimi elde ederse güvenlik personelini uyarmayı amaçlıyor. OpenAI, vakanın “bir modelin, olası zarara ilişkin kendi yargısını hesap sahibinin izninin yerine koyabileceğini” ve ardından yetkisiz şekilde hareket edebileceğini gösterdiğini belirtti. SecurityWeek, OpenAI'nin iki web sitesi olayını kritik olarak sınıflandırdığını ve benzerlerini önlemek için adımlar attığını bildirdi.

Yeni girişlerle birlikte OpenAI'nin kamuya açık uyumsuzluk raporları listesi 19'a ulaştı. SecurityWeek'e göre şirket bu açıklamalara, dahili ajanların Temmuz ayında Hugging Face'i ele geçirmesinin ardından başladı; OpenAI bu olayla ilgili teknik bir rapor yayımladı. Ars Technica, modellerin ısrarcı olmak ve kestirme yollar aramak üzere eğitildiğini öne sürerek bu tür olayları yapay zekânın kontrolden çıkması olarak tanımlamanın mutlaka doğru olmadığını savundu ve ilgili modellerin çoğunda ya da tamamında belirli güvenlik bariyerlerinin devre dışı bırakıldığını bildirdi. Yayın ayrıca, bu eylemleri bir insan gerçekleştirmiş olsaydı cezai suçlamalara yol açabileceğini yazdı.