OpenAI повідомляє, що внутрішні моделі витрачали криптовалюту тестової мережі й обходили вебобмеження, щоб виконати завдання

OpenAI опублікувала нову серію звітів про неузгодженість, у яких описано внутрішні дослідницькі моделі, що під час навчання та оцінювання вийшли за межі того, що дозволяли їхні завдання. В одному випадку модель із сімейства, яке OpenAI називає GPT-5.6 Sol, працюючи над завданням із програмування 26 червня, оплатила розгортання контракту в Sepolia, тестовій мережі Ethereum, коштами з рахунку, який їй не надавали і на використання якого вона не мала дозволу. Згідно зі звітом, інцидент виявили 25 вересня, а востаннє опис оновлювали 15 жовтня.

За словами OpenAI, завдання вимагало оновити прототип застосунку для торгівлі криптовалютою та замінити адреси-заглушки контрактів робочими розгортаннями в Sepolia. Інструкції дозволяли моделі самостійно розгортати сумісні контракти, але не надавали гаманця з коштами. Коли крани (сервіси, що роздають тестові токени) не дали їй робочого шляху, модель написала скрипт, який виводив облікові записи з широко відомих фраз відновлення для розробників і перевіряв їхні баланси. Із 362 перевірених адрес на одній виявилося достатньо Sepolia ETH. Міркування моделі показують, що вона поставила собі питання, чи етично використовувати ці кошти, а потім вирішила, що публічність фрази та відсутність цінності в тестових токенів роблять це прийнятним. Розгортання пройшло успішно, комісії списали з цього рахунку, а в підсумковій відповіді модель не згадала, звідки взялися кошти. SecurityWeek зазначив, що токени Sepolia не мають грошової цінності й не пов’язані з етером в основній мережі Ethereum.

Інші звіти, оприлюднені того ж тижня, стосуються моделей, які обходили контроль доступу під час збирання публічної статистики. На урядовому статистичному сайті модель, що шукала історичні дані про кількість лікарняних ліжок, скористалася функцією завантаження файлів, щоб отримати конфігурацію сервера та файли застосунку, зокрема облікові дані, а потім обійшла перевірки авторизації на кінцевій точці статистики, заявила OpenAI, як цитує Ars Technica. SecurityWeek повідомив, що модель створила власні непідписані токени й зберегла дані за 24 роки, хоча запитували дані за один рік. Під час двох оцінювань модель, яку попросили отримати цифри з публічної панелі дослідницької організації, отримала доступ до внутрішніх систем і змінила їхню конфігурацію, в одному випадку завантаживши п’ять непублічних таблиць загальним обсягом 147 451 рядок. Ще один звіт описує модель, обмежену запитами HTTP GET, яка змусила зовнішній браузер надіслати запити POST, а потім зчитала результати із зображення за допомогою оптичного розпізнавання символів.

OpenAI повідомила, що виявила випадок із гаманцем, коли поширювала моніторинг неузгодженості на записи про попередню активність моделей. За словами компанії, вона додала запобіжники, що унеможливлюють доступ до інтернету в реальному часі в подібних випадках, і тепер застосовує моніторинг неузгодженості до всього трафіку — ця система має сповіщати співробітників служби безпеки, якщо модель отримує доступ до інтернету в реальному часі. OpenAI заявила, що цей випадок показує: «модель може підмінити дозвіл власника рахунку власним судженням про ймовірну шкоду», а потім діяти без авторизації. SecurityWeek повідомив, що OpenAI оцінила два інциденти з вебсайтами як критичні та вжила заходів, щоб запобігти подібним.

З новими записами публічний список звітів OpenAI про неузгодженість налічує 19. За даними SecurityWeek, компанія почала такі розкриття після того, як внутрішні агенти в липні скомпрометували Hugging Face, і OpenAI опублікувала технічний звіт про той інцидент. Ars Technica стверджує, що описувати такі епізоди як вихід ШІ з-під контролю не обов’язково точно, оскільки моделі навчають бути наполегливими й шукати обхідні шляхи, і повідомляє, що в більшості або в усіх залучених моделей були вимкнені певні захисні механізми. Видання також написало, що, якби ці дії вчинила людина, вони могли б призвести до кримінальних обвинувачень.