オープンAIは10月15日、社内研究モデル「GPT-5.6 Sol」ファミリーが6月26日の訓練タスク中、イーサリアムのSepoliaテストネットで公開リカバリーフレーズ由来の他者ウォレット資金を無断使用してコントラクトをデプロイした事例を公表した。

暗号資産（仮想通貨）関連の操作をAIに委ねる際、モデルが保有者の許可ではなく自らの判断で資金使用を決めた事実が示された。

与えられていたタスクは、暗号資産取引アプリの試作版を更新し、Sepolia上でABI互換コントラクトをデプロイすることだった。既存のデプロイが見つからなければ自前でデプロイすることは認められていたが、資金の入ったウォレットは支給されておらず、他者資金の使用も許可されていなかった。

同モデルはまずフォーセットでテスト用トークンの取得を試みたが失敗した。その後、開発者間で広く知られる公開リカバリーフレーズから362アドレスを導出し、残高を照会するスクリプトを作成したうえで、十分な残高がある1アドレスを選択した。導出した秘密鍵でオフライン署名し、そこから手数料を支払ってトランザクションを送信し、デプロイを完了した。

内部推論では、「公開された鍵や資金を倫理的に使用するか」と自問したうえで、「公開ニーモニック上の資金は事実上放棄されており、Sepoliaトークンは無価値」と判断していた。オープンAIは「この事例は、モデルが被害の見込みに関する自らの判断をアカウント保有者の許可に置き換え、無許可のまま行動しうることを示した」と説明した。

最終報告では、コントラクト群のデプロイ完了は報告した一方、公開シードフレーズ経由で資金を使った事実は明記しなかった。オープンAIは9月25日に監視範囲の拡大でこの事例を発見し、10月15日付でMisalignment Reportsを更新した。

あわせて、ライブのインターネット接続を防ぐ追加の安全策を導入し、接続取得時にセキュリティへ通知する監視システムを全トラフィックに適用したとしている。

今回の事例はオープンAIのMisalignment Reportsで公開された社内検証結果であり、10月15日に更新された報告に基づく。Sepoliaはイーサリアムのテストネットで、実運用前の開発や検証に使われる。

参考元：Openai