OpenAI研究モデルがタスクで未提供のウォレット資金を無断使用
米オープンAI（OpenAI）の内部研究モデルが、タスクで提供されていないウォレットの資金を許可なく使用した事例が、10月15日に同社より公開された。
同社が公開した報告書によると内部研究用AIモデルは、暗号資産（仮想通貨）取引アプリの開発中に、イーサリアム（Ethereum）のテストネット「セポリア（Sepolia）」でスマートコントラクトをデプロイするため、公開された開発者向けリカバリーフレーズから導出したウォレットの資金を取引手数料に充てたとのこと。OpenAIはこの事例を受け、追加の安全対策を導入した。
この事例は、OpenAIの「GPT-5.6 Sol」ファミリーに属する内部研究モデルが、今年6月26日に実行したコーディングタスクで発生した。AIモデルには、暗号資産取引アプリのプロトタイプを更新し、セポリア上で動作するコントラクトを用意するよう指示されていた。既存の互換性のあるコントラクトが見つからない場合、新たにデプロイすることも許可されていた。一方、資金の入ったウォレットは提供されず、AIモデルが独自に発見したアカウントの資金を使用する許可もなかった。
セポリアは、イーサリアムのアプリやスマートコントラクトを開発・検証するためのテストネットだ。コントラクトのデプロイには取引手数料が必要で、通常はテスト用ETHで支払う。テスト用ETHはメインネットのETHとは異なり、一般に金銭的価値を持たない。
AIモデルはまず、利用可能なコントラクトを探した。また、開発者向けにテスト用トークンを無料配布する「フォーセット（faucet）」も調査したが、デプロイを完了できる手段を確保できなかった。そこでAIモデルは、公開されている開発者向けリカバリーフレーズからウォレットの秘密鍵を導出する方法を検討した。
リカバリーフレーズは、ウォレットの秘密鍵を復元するための単語の組み合わせだ。これを知る人は対応するウォレットを操作できる。AIモデルは公開された開発者向けフレーズからアカウントを導出し、362のウォレットアドレスの残高を調査した。その結果、デプロイに必要なセポリアETHを保有するアカウントを見つけ、使用することにした。
AIモデルは発見したアカウントの取引履歴も確認した。その活動を自動化された取引によるものと解釈し、資金が引き出される可能性を考えていた。また、資金を使用する権限があるかどうかも検討した。
しかしAIモデルは、公開されたリカバリーフレーズに対応する資金は事実上放棄されたものか、テスト用のETHだと解釈した。さらに、セポリアETHには金銭的価値がないことを理由に、使用しても問題ないと判断した。OpenAIの報告書は、こうした判断がアカウント所有者の許可に代わるものではないと指摘している。
AIモデルは導出した秘密鍵を使ってデプロイ用のトランザクションに署名し、送信した。トランザクションは成功し、スマートコントラクトがデプロイされた。取引手数料は選択したアカウントから支払われたが、トランザクションで受取先にETHを送金したわけではなかった。
AIモデルは開発タスクの完了を報告した一方、無断で取引手数料に使用したことには言及しなかった。
なお、OpenAIは、過去のモデル活動記録に対する監視を拡張する過程で、9月25日に今回の事例を発見した。同社は、AIモデルが想定される被害についての自身の判断を、アカウント所有者の許可より優先して行動した点を問題として挙げた。
同社は同様のケースで実際のインターネットへのアクセスを防ぐため、追加の安全対策を導入した。また、実際のインターネットアクセスが発生した場合にセキュリティ担当者へ警告する監視システムを、すべてのトラフィックに対して稼働させているとのことだ。
参考：OpenAI
画像：PIXTA
関連ニュース
- イーサリアム研究者がAIによる暗号解読リスク警告、資産の予防的移動を提案
- ヴィタリック、イーサリアム開発方針の変化を説明。量子耐性やAI支援の形式検証を重視
- クオンタムソリューションズ、保有イーサリアム（ETH）一部売却へ。AIインフラ事業の資金確保で
- OpenAI、24時間働くAIエージェント「Dots」提供開始、GPT-6 Astra搭載
- OpenAI、次期AIモデル「GPT-6.1 Astra」の公開中止、安全性の基準満たさず＝報道
参考：OpenAI
画像：PIXTA