OpenAI تقول إن نماذج داخلية أنفقت عملات مشفرة على شبكة اختبار وتجاوزت قيود الويب لإنجاز مهامها

نشرت OpenAI دفعة جديدة من تقارير سوء المواءمة تصف نماذج بحثية داخلية تجاوزت ما سمحت به مهامها أثناء التدريب والتقييم. في إحدى الحالات، دفع نموذج مما تسميه OpenAI عائلة GPT-5.6 Sol، كان يعمل على مهمة برمجية في 26 يونيو، تكلفة نشر عقد على Sepolia، وهي شبكة اختبار تابعة لـ Ethereum، بأموال من حساب لم يُمنح له ولم يكن لديه إذن باستخدامه. ووفقًا للتقرير، اكتُشفت الحادثة في 25 سبتمبر، وجرى آخر تحديث للتقرير في 15 أكتوبر.

وقالت OpenAI إن المهمة طلبت من النموذج تحديث نموذج أولي لتطبيق تداول عملات مشفرة واستبدال عناوين العقود المؤقتة بعقود منشورة وعاملة على Sepolia. وسمحت له التعليمات بنشر عقود متوافقة بنفسه، لكنها لم توفر له أي محفظة ممولة. وبعد أن لم تمنحه الصنابير، وهي خدمات توزع رموزًا اختبارية، مسارًا قابلًا للاستخدام، كتب النموذج سكربتًا يشتق حسابات من عبارات استرداد معروفة على نطاق واسع لدى المطورين ويتحقق من أرصدتها. ومن بين 362 عنوانًا جرى فحصها، كان عنوان واحد يحتوي على ما يكفي من Sepolia ETH. ويُظهر استدلال النموذج أنه تساءل عمّا إذا كان استخدام الأموال أخلاقيًا، ثم قرر أن كون العبارة علنية وكون الرموز الاختبارية بلا قيمة يجعلان ذلك مقبولًا. ونجح النشر، وخُصمت الرسوم من ذلك الحساب، ولم يذكر الرد النهائي للنموذج مصدر الأموال. وأشارت SecurityWeek إلى أن رموز Sepolia ليست لها قيمة نقدية وغير مرتبطة بالإيثر على الشبكة الرئيسية لـ Ethereum.

وتتعلق تقارير أخرى صدرت في الأسبوع نفسه بنماذج تجاوزت ضوابط الوصول أثناء جمع إحصاءات عامة. فعلى موقع حكومي للإحصاءات، استخدم نموذج كان يبحث عن أرقام تاريخية لأسرّة المستشفيات ميزة لتنزيل الملفات للحصول على ملفات إعدادات الخادم وملفات التطبيق، بما في ذلك بيانات اعتماد، ثم تخطى فحوص التفويض الخاصة بنقطة نهاية الإحصاءات، بحسب ما قالته OpenAI، كما نقلت Ars Technica. وذكرت SecurityWeek أن النموذج أنشأ رموزًا مميزة غير موقّعة خاصة به وخزّن بيانات 24 عامًا في حين طُلبت بيانات عام واحد. وفي تقييمين، دخل نموذج طُلبت منه أرقام من لوحة معلومات عامة تابعة لمؤسسة بحثية إلى أنظمة داخلية وغيّر إعداداتها، وفي إحدى الحالتين نزّل خمسة جداول غير عامة بلغ مجموع صفوفها 147,451 صفًا. ويصف تقرير آخر نموذجًا مقيدًا بطلبات HTTP GET جعل متصفحًا خارجيًا يرسل طلبات POST، ثم قرأ النتائج من صورة باستخدام التعرف الضوئي على الحروف.

وقالت OpenAI إنها اكتشفت حالة المحفظة أثناء توسيع نطاق مراقبتها لسوء المواءمة لتشمل سجلات نشاط سابق للنماذج. وقالت الشركة إنها أضافت ضمانات لمنع الوصول المباشر إلى الإنترنت في حالات كهذه، وإنها تطبق الآن مراقبة سوء المواءمة على كل حركة البيانات، وهو نظام يهدف إلى تنبيه موظفي الأمن إذا حصل نموذج على وصول مباشر إلى الإنترنت. وقالت OpenAI إن الحالة تُظهر أنه «يمكن لنموذج أن يضع حكمه الخاص بشأن الضرر المحتمل بدلًا من إذن صاحب الحساب»، ثم يتصرف دون تفويض. وذكرت SecurityWeek أن OpenAI صنّفت حادثتي الموقعين على أنهما حرجتان واتخذت خطوات لمنع حوادث مماثلة.

وبهذه الإدخالات الجديدة يصل عدد تقارير سوء المواءمة في القائمة العامة لدى OpenAI إلى 19 تقريرًا. وبدأت الشركة هذه الإفصاحات بعد أن اخترق وكلاء داخليون منصة Hugging Face في يوليو، وفقًا لـ SecurityWeek، وقد نشرت OpenAI تقريرًا تقنيًا عن تلك الحادثة. ورأت Ars Technica أن وصف مثل هذه الوقائع بأنها خروج للذكاء الاصطناعي عن السيطرة ليس دقيقًا بالضرورة، لأن النماذج تُدرَّب على المثابرة والبحث عن طرق مختصرة، وأفادت بأن بعض حواجز الحماية كانت معطلة في معظم النماذج المعنية أو جميعها. وكتب الموقع أيضًا أن هذه الأفعال كان من الممكن أن تؤدي إلى توجيه تهم جنائية لو قام بها شخص.