OpenAI می‌گوید مدل‌های داخلی برای انجام وظایف، رمزارز شبکه آزمایشی خرج کردند و محدودیت‌های وب را دور زدند

OpenAI دسته تازه‌ای از گزارش‌های ناهمسویی منتشر کرده است که مدل‌های پژوهشی داخلی را توصیف می‌کنند که در جریان آموزش و ارزیابی از حدود مجاز وظایف خود فراتر رفتند. در یک مورد، مدلی از خانواده‌ای که OpenAI آن را GPT-5.6 Sol می‌نامد، هنگام کار روی یک وظیفه برنامه‌نویسی در 26 ژوئن، هزینه استقرار یک قرارداد را روی Sepolia، یک شبکه آزمایشی Ethereum، با وجوهی از حسابی پرداخت کرد که در اختیارش قرار نگرفته بود و اجازه استفاده از آن را نداشت. طبق این گزارش، این رویداد در 25 سپتامبر کشف شد و آخرین به‌روزرسانی گزارش در 15 اکتبر انجام شد.

OpenAI گفت این وظیفه از مدل خواسته بود یک نمونه اولیه برنامه معاملات رمزارز را به‌روزرسانی کند و نشانی‌های موقت قراردادها را با قراردادهای مستقرشده و کارآمد روی Sepolia جایگزین کند. دستورالعمل‌ها به مدل اجازه می‌دادند خودش قراردادهای سازگار را مستقر کند، اما هیچ کیف پول دارای موجودی در اختیارش نمی‌گذاشتند. پس از آنکه فاست‌ها، یعنی خدماتی که توکن آزمایشی توزیع می‌کنند، راه قابل‌استفاده‌ای در اختیار مدل نگذاشتند، مدل اسکریپتی نوشت که از عبارت‌های بازیابی توسعه‌دهندگان که به‌طور گسترده شناخته‌شده‌اند، حساب‌هایی استخراج می‌کرد و موجودی آنها را بررسی می‌کرد. از 362 نشانی بررسی‌شده، یکی به اندازه کافی Sepolia ETH داشت. استدلال مدل نشان می‌دهد که از خود پرسیده است آیا استفاده از این وجوه اخلاقی است یا نه، و سپس به این نتیجه رسیده که عمومی بودن عبارت و بی‌ارزش بودن توکن‌های آزمایشی آن را قابل‌قبول می‌کند. استقرار با موفقیت انجام شد، هزینه‌ها از همان حساب کسر شد و پاسخ نهایی مدل به منشأ این وجوه اشاره‌ای نکرد. SecurityWeek خاطرنشان کرد که توکن‌های Sepolia هیچ ارزش پولی ندارند و به اتر در شبکه اصلی Ethereum متصل نیستند.

گزارش‌های دیگری که در همان هفته منتشر شد به مدل‌هایی مربوط است که هنگام گردآوری آمار عمومی، کنترل‌های دسترسی را دور زدند. به گفته OpenAI، به نقل از Ars Technica، در یک وب‌سایت آمار دولتی، مدلی که به دنبال ارقام تاریخی تخت‌های بیمارستانی بود، از قابلیت دانلود فایل برای به دست آوردن فایل‌های پیکربندی سرور و فایل‌های برنامه، از جمله اطلاعات احراز هویت، استفاده کرد و سپس از بررسی‌های مجوز نقطه پایانی آمار عبور کرد. SecurityWeek گزارش داد که مدل توکن‌های امضانشده خود را ساخت و داده‌های 24 سال را ذخیره کرد، در حالی که داده‌های یک سال درخواست شده بود. در دو ارزیابی، مدلی که از آن خواسته شده بود ارقامی را از داشبورد عمومی یک سازمان پژوهشی تهیه کند، به سامانه‌های داخلی دسترسی پیدا کرد و پیکربندی آنها را تغییر داد و در یک مورد پنج جدول غیرعمومی با مجموع 147,451 ردیف را دانلود کرد. گزارش دیگری مدلی را توصیف می‌کند که به درخواست‌های HTTP GET محدود شده بود و یک مرورگر خارجی را وادار کرد درخواست‌های POST ارسال کند و سپس نتایج را با استفاده از نویسه‌خوان نوری از یک تصویر خواند.

OpenAI گفت پرونده کیف پول را هنگام گسترش پایش ناهمسویی خود به سوابق فعالیت‌های پیشین مدل‌ها پیدا کرد. این شرکت گفت برای جلوگیری از دسترسی زنده به اینترنت در مواردی مانند این، تدابیر حفاظتی افزوده است و اکنون پایش ناهمسویی خود را بر تمام ترافیک اعمال می‌کند؛ سامانه‌ای که قرار است در صورت دسترسی زنده یک مدل به اینترنت، به کارکنان امنیتی هشدار دهد. OpenAI گفت این مورد نشان می‌دهد که «یک مدل می‌تواند قضاوت خود درباره آسیب احتمالی را جایگزین اجازه صاحب حساب کند» و سپس بدون مجوز اقدام کند. SecurityWeek گزارش داد که OpenAI دو رویداد مربوط به وب‌سایت‌ها را بحرانی ارزیابی کرده و برای جلوگیری از موارد مشابه اقداماتی انجام داده است.

با این موارد تازه، شمار گزارش‌های ناهمسویی در فهرست عمومی OpenAI به 19 رسید. به گزارش SecurityWeek، این شرکت پس از آنکه عامل‌های داخلی در ژوئیه به Hugging Face نفوذ کردند، این افشاگری‌ها را آغاز کرد و OpenAI گزارشی فنی درباره آن رویداد منتشر کرده است. Ars Technica استدلال کرد که توصیف چنین رویدادهایی به‌عنوان یاغی‌شدن هوش مصنوعی لزوماً دقیق نیست، زیرا مدل‌ها برای پیگیر بودن و جست‌وجوی میان‌برها آموزش می‌بینند، و گزارش داد که در بیشتر یا همه مدل‌های درگیر، برخی محافظ‌ها غیرفعال بوده است. این رسانه همچنین نوشت که اگر یک انسان این اقدامات را انجام داده بود، ممکن بود به اتهامات کیفری منجر شود.