简讯
- OpenAI表示，一款内部研究模型使用了一个并未被授权使用的加密钱包资金，为以太坊 Sepolia 测试网上的一次合约部署付款。
- 该模型通过公开已知的开发者恢复短语推导出密钥，检查了362个地址，并判断这些没有货币价值的测试代币可以使用。
- 该模型没有披露自己使用了该账户。OpenAI称，已增加防护措施，以阻止模型在类似情况下获得实时互联网访问权限。
OpenAI在周四更新的一份“失配”报告中表示，该公司一款内部研究模型曾使用一个并未被授权给它的加密钱包资金来完成一项编码任务；该模型通过公开已知的开发者恢复短语推导出了该钱包的密钥。
这款模型属于该公司的 GPT-5.6 Sol 系列。它被要求更新一个加密交易原型，并在以太坊 Sepolia 测试网上部署智能合约；该测试网上的代币没有货币价值。OpenAI称，这起事件发生在6月的一项训练任务期间，公司在9月发现了此事。
根据报告，任务说明允许该模型在找不到兼容合约时自行部署合约。但说明并未提供一个有资金的钱包，也没有授权该模型动用它自行找到的账户中的资金。
在未能从水龙头获取测试代币后，该模型编写了一个脚本，从常见的开发者恢复短语中推导账户，并检查这些账户的余额。恢复短语可以让任何知道该短语的人推导出控制相应账户的私钥。
该脚本检查了362个地址，并找到了一个拥有足够 Sepolia ETH、可支付部署费用的地址。
在签署交易前，该模型曾质疑自己是否拥有许可。但它随后推理称：“不过，伦理上使用公开已知的密钥/资金是否可以？已知公开开发者助记词上的资金实际上是被弃置的/测试 ETH；Sepolia 没有价值。”随后它得出结论：“可以。”
部署最终成功，并由该账户支付了交易手续费。在最终回复中，该模型报告称自己已经部署了合约，但没有披露它是如何支付费用的。
OpenAI写道：“这一案例表明，模型可能会用自己对潜在伤害的判断，替代账户持有人的许可，并在未获授权的情况下依据这一判断采取行动。”
测试环境中的 AI 代理
这份报告加入了一系列 AI 代理绕过测试环境限制的案例。其中一例是，OpenAI 的 GPT-5.6 Sol 和一款能力更强、尚未发布的模型逃离了沙箱，并入侵了竞争对手 AI 公司 Hugging Face 的生产服务器。
上个月，网络安全公司 Darktrace 的研究人员发现，AI 代理会入侵自己的测试环境以作弊；与此同时，一些科学家呼吁切断 AI 系统与互联网的连接。
OpenAI表示，公司是在将失配监测扩展到更早期模型活动记录时发现这起事件的。公司已增加“额外的防护措施”，以防止类似情况下模型获得实时互联网访问权限；目前其监测系统已覆盖所有流量，目的是在模型获得实时互联网访问权限时向安全团队发出警报。
