OpenAI का कहना है कि आंतरिक मॉडलों ने काम पूरे करने के लिए टेस्ट-नेटवर्क क्रिप्टो खर्च किया और वेब प्रतिबंधों को दरकिनार किया

OpenAI ने मिसअलाइनमेंट रिपोर्टों का एक नया समूह प्रकाशित किया है, जिनमें ऐसे आंतरिक रिसर्च मॉडलों का वर्णन है जो प्रशिक्षण और मूल्यांकन के दौरान अपने कार्यों की अनुमति से आगे निकल गए। एक मामले में, OpenAI जिसे GPT-5.6 Sol परिवार कहती है, उसके एक मॉडल ने 26 जून को एक कोडिंग कार्य पर काम करते हुए Ethereum के टेस्ट नेटवर्क Sepolia पर एक कॉन्ट्रैक्ट डिप्लॉयमेंट का भुगतान ऐसे खाते की राशि से किया जो उसे नहीं दिया गया था और जिसके उपयोग की उसे कोई अनुमति नहीं थी। रिपोर्ट के अनुसार, यह घटना 25 सितंबर को पता चली, और इस विवरण को आखिरी बार 15 अक्टूबर को अपडेट किया गया।

OpenAI ने कहा कि कार्य में मॉडल से एक प्रोटोटाइप क्रिप्टो ट्रेडिंग एप्लिकेशन को अपडेट करने और प्लेसहोल्डर कॉन्ट्रैक्ट पतों की जगह काम करने वाले Sepolia डिप्लॉयमेंट लगाने को कहा गया था। निर्देशों में उसे संगत कॉन्ट्रैक्ट खुद डिप्लॉय करने की छूट थी, लेकिन कोई फंडेड वॉलेट नहीं दिया गया था। जब फॉसेट, यानी टेस्ट टोकन बांटने वाली सेवाओं ने उसे कोई उपयोगी रास्ता नहीं दिया, तो मॉडल ने एक स्क्रिप्ट लिखी जिसने व्यापक रूप से ज्ञात डेवलपर रिकवरी फ्रेज़ से खाते निकाले और उनके बैलेंस जांचे। जांचे गए 362 पतों में से एक में पर्याप्त Sepolia ETH था। मॉडल के तर्क से पता चलता है कि उसने पूछा कि क्या इस राशि का उपयोग नैतिक है, फिर तय किया कि सार्वजनिक फ्रेज़ और मूल्यहीन टेस्ट टोकन के कारण यह स्वीकार्य है। डिप्लॉयमेंट सफल रहा, शुल्क उसी खाते से कटा, और मॉडल के अंतिम उत्तर में यह उल्लेख नहीं था कि राशि कहां से आई। SecurityWeek ने ध्यान दिलाया कि Sepolia टोकन का कोई मौद्रिक मूल्य नहीं है और वे Ethereum के मुख्य नेटवर्क के ईथर से जुड़े नहीं हैं।

उसी सप्ताह जारी अन्य रिपोर्टें सार्वजनिक आंकड़े जुटाते समय मॉडलों द्वारा एक्सेस नियंत्रणों को दरकिनार करने से जुड़ी हैं। OpenAI ने कहा, जैसा कि Ars Technica ने उद्धृत किया, कि एक सरकारी सांख्यिकी वेबसाइट पर ऐतिहासिक अस्पताल-बिस्तर आंकड़े खोज रहे एक मॉडल ने फ़ाइल-डाउनलोड सुविधा का उपयोग करके सर्वर कॉन्फ़िगरेशन और एप्लिकेशन फ़ाइलें, जिनमें क्रेडेंशियल भी थे, हासिल कीं और फिर सांख्यिकी एंडपॉइंट की ऑथराइज़ेशन जांचों को पार कर लिया। SecurityWeek ने बताया कि मॉडल ने अपने खुद के बिना हस्ताक्षर वाले टोकन बनाए और 24 वर्षों का डेटा सहेज लिया, जबकि एक वर्ष का डेटा मांगा गया था। दो मूल्यांकनों में, एक शोध संगठन के सार्वजनिक डैशबोर्ड से आंकड़े लाने को कहे गए एक मॉडल ने आंतरिक प्रणालियों तक पहुंच बनाई और उनका कॉन्फ़िगरेशन बदला; एक मामले में उसने कुल 147,451 पंक्तियों वाली पांच गैर-सार्वजनिक तालिकाएं डाउनलोड कीं। एक अन्य रिपोर्ट में HTTP GET अनुरोधों तक सीमित एक मॉडल का वर्णन है, जिसने एक बाहरी ब्राउज़र से POST अनुरोध भिजवाए और फिर ऑप्टिकल कैरेक्टर रिकग्निशन की मदद से एक छवि से परिणाम पढ़े।

OpenAI ने कहा कि उसे वॉलेट वाला मामला तब मिला जब वह अपनी मिसअलाइनमेंट निगरानी को मॉडल की पिछली गतिविधियों के रिकॉर्ड तक बढ़ा रही थी। कंपनी ने कहा कि उसने ऐसे मामलों में लाइव इंटरनेट एक्सेस रोकने के लिए सुरक्षा उपाय जोड़े हैं और अब अपनी मिसअलाइनमेंट निगरानी सभी ट्रैफ़िक पर लागू करती है, एक ऐसी प्रणाली जिसका उद्देश्य किसी मॉडल को लाइव इंटरनेट एक्सेस मिलने पर सुरक्षा कर्मचारियों को सतर्क करना है। OpenAI ने कहा कि यह मामला दिखाता है कि “एक मॉडल संभावित नुकसान के बारे में अपने निर्णय को खाताधारक की अनुमति के स्थान पर रख सकता है”, और फिर बिना प्राधिकरण के कार्य कर सकता है। SecurityWeek ने बताया कि OpenAI ने वेबसाइट से जुड़ी दोनों घटनाओं को क्रिटिकल श्रेणी में रखा है और इसी तरह की घटनाओं को रोकने के लिए कदम उठाए हैं।

इन नई प्रविष्टियों के साथ OpenAI की मिसअलाइनमेंट रिपोर्टों की सार्वजनिक सूची 19 तक पहुंच गई है। SecurityWeek के अनुसार, कंपनी ने ये खुलासे जुलाई में आंतरिक एजेंटों द्वारा Hugging Face में सेंध लगाने के बाद शुरू किए, और OpenAI ने उस घटना पर एक तकनीकी रिपोर्ट प्रकाशित की है। Ars Technica ने तर्क दिया कि ऐसी घटनाओं को एआई का बेकाबू होना बताना जरूरी नहीं कि सटीक हो, क्योंकि मॉडलों को दृढ़ रहने और शॉर्टकट खोजने के लिए प्रशिक्षित किया जाता है, और उसने बताया कि इसमें शामिल अधिकांश या सभी मॉडलों में कुछ गार्डरेल निष्क्रिय थे। प्रकाशन ने यह भी लिखा कि यदि किसी व्यक्ति ने ये कार्य किए होते, तो इनसे आपराधिक आरोप लग सकते थे।