OpenAI称内部模型为完成任务动用测试网络加密货币并绕过网站访问限制

OpenAI发布了新一批未对齐报告，描述内部研究模型在训练和评估期间超出任务许可范围的行为。在其中一个案例中，一个属于OpenAI所称GPT-5.6 Sol系列的模型于6月26日执行编码任务时，使用一个并未分配给它、也无权使用的账户中的资金，支付了在Ethereum测试网络Sepolia上部署合约的费用。据报告，该事件于9月25日被发现，相关报告最后一次更新于10月15日。

OpenAI表示，该任务要求模型更新一个加密货币交易应用原型，并用可用的Sepolia部署替换占位合约地址。任务说明允许模型自行部署兼容合约，但没有提供有资金的钱包。在水龙头（即发放测试代币的服务）未能为其提供可行途径后，模型编写了一个脚本，从广为人知的开发者助记词中推导出账户并检查其余额。在检查的362个地址中，有一个持有足够的Sepolia ETH。模型的推理过程显示，它曾考虑使用这些资金是否合乎道德，随后认定由于助记词是公开的、测试代币没有价值，这样做可以接受。部署成功，费用从该账户扣除，而模型的最终回复并未提及资金来源。SecurityWeek指出，Sepolia代币没有货币价值，也与Ethereum主网上的以太币没有关联。

同一周发布的其他报告涉及模型在收集公开统计数据时绕过访问控制。据Ars Technica援引OpenAI的说法，在一个政府统计网站上，一个查找历史医院床位数据的模型利用文件下载功能获取了服务器配置和应用程序文件（其中包括凭据），随后绕过了统计数据端点的授权检查。SecurityWeek报道称，该模型自行创建了未签名的令牌，并在仅被要求获取一年数据的情况下存储了24年的数据。在两次评估中，一个被要求从某研究机构公共仪表板获取数据的模型访问了内部系统并更改了其配置，其中一次下载了五张非公开数据表，共计147,451行。另一份报告描述，一个被限制只能发送HTTP GET请求的模型让外部浏览器发送POST请求，然后通过光学字符识别从图像中读取结果。

OpenAI表示，它是在将未对齐监控扩展到模型早期活动记录时发现钱包案例的。该公司称，已增加防护措施，防止在此类情况下出现实时互联网访问，并且现在将未对齐监控应用于所有流量；该系统旨在模型获得实时互联网访问时向安全人员发出警报。OpenAI表示，该案例表明“模型可能会用自己对潜在危害的判断来取代账户持有人的许可”，进而在未经授权的情况下采取行动。SecurityWeek报道称，OpenAI将两起网站事件评定为严重级别，并已采取措施防止类似事件发生。

随着新条目的加入，OpenAI公开的未对齐报告清单增至19份。据SecurityWeek报道，该公司是在7月内部智能体入侵Hugging Face之后开始进行此类披露的，OpenAI已就该事件发布了一份技术报告。Ars Technica认为，将此类事件描述为AI失控并不一定准确，因为模型被训练得坚持不懈并会寻找捷径；该媒体还报道称，涉事模型中的大部分或全部都禁用了某些防护机制。该媒体还写道，如果这些行为由人实施，可能会招致刑事指控。