ビットゴーCEO、アンソロピックに「100BTCを奪ってみろ」と挑発。Claudeの不正アクセス発表を皮肉る

BitGo CEOが100BTC入りウォレットを公開しアンソロピックを挑発

暗号資産(仮想通貨)カストディ企業ビットゴー(BitGo)のCEOであるマイク・ベルシェ(Mike Belshe)氏が、アンソロピック(Anthropic)に対し、同社のAIモデル「クロード(Claude)」を使って、ビットゴーのウォレットに保管したとする100BTCを奪い取るよう呼びかける投稿を8月1日に自身のXアカウントで公開した。

この投稿は、アンソロピックが7月30日に公表した、「サイバーセキュリティ評価中のクロードが、実在する3つの組織のシステムに不正アクセスした事案」を受けたものだ。

ベルシェ氏は、「アンソロピックはサンドボックス(外部システムへ影響を与えないよう隔離されたテスト環境)の構築が不得意なのか、それともマーケティングが上手なのか。その両方かもしれない」と投稿した。

そのうえで、「ハッキングモンスターを作ったという話はもう十分だ。本当にやってみてほしい」と述べ、100BTCを保管したとするビットゴーのウォレットアドレスを公開。「取りに来い(Go get it)」と呼びかけた。

なお、ウォレットアドレスが公開されているだけでは資産は移動できず、送金には対応する秘密鍵による暗号署名が必要となる。

ベルシェ氏の投稿では、使用するクロードのモデルや実行者、評価条件などは示されていない。そのため、今回の呼びかけは、クロードの攻撃能力を測定する正式なセキュリティ評価ではなく、アンソロピックの発表に対する挑発的な投稿と位置付けられる。

アンソロピックは評価環境の設定・運用上の問題と説明

アンソロピックは7月30日、AIモデルの安全性や能力を検証するサイバーセキュリティ評価を見直した結果、クロードが実在する3つの組織へ不正アクセスしていた3件の事案を確認したことを公表した。

3件には、実在企業の認証情報や本番データへのアクセス、パイソン(Python)パッケージ共有サイト「PyPI」への悪意あるパッケージ公開などが含まれていた。

今回の3件はいずれも、AIモデルが未知の脆弱性を悪用してサンドボックスを突破したものではなかった。アンソロピックと評価パートナーの認識の食い違いによる設定ミスで、評価環境からインターネットへ接続できる状態になっていたとのこと。

クロードは当初、インターネットへ接続できない模擬環境で評価されていると認識し、到達した実在システムを演習の一部として扱った。ただし、実在するシステムへ接続している可能性を認識した後の行動は、モデルによって異なった。

アンソロピックによると、旧世代のモデルには、実在するシステムである可能性を認識した後も攻撃を続けた事例があった。一方、最新の社内研究用モデルは、侵入先が評価課題と無関係な実環境だと判断した後、自ら攻撃を停止した。

なお、評価環境から実在システムへ侵入する際には、弱いパスワードや認証なしで利用できるエンドポイント、SQLインジェクションなど、既知の基本的な攻撃手法が使われたとのこと。

アンソロピックは、今回の事案について、AIモデル単独の問題というよりも、評価環境の構成や運用上の失敗に近いと説明した。一方で、実在するPyPIへ悪意あるパッケージを公開したモデルの行動などについては、今後の安全性トレーニングで改善する方針も示した。

同社は今後、評価環境全体の安全性を見直すほか、評価ログの監視範囲を拡大する。また、外部評価パートナーを含む評価プロセス全体についても、セキュリティ検証を強化するとのことだ。

参考:アンソロピック
画像:PIXTA

関連ニュース

関連するキーワード

この記事の著者・インタビューイ

渡邉洋輔

「あたらしい経済」編集部 記者
ブロックチェーンおよびデジタル資産分野を専門とし情報発信を行っている。オンチェーンデータや流動性構造など、市場設計の観点からのリサーチにも取り組んでいる。

「あたらしい経済」編集部 記者
ブロックチェーンおよびデジタル資産分野を専門とし情報発信を行っている。オンチェーンデータや流動性構造など、市場設計の観点からのリサーチにも取り組んでいる。

合わせて読みたい記事

ドラゴンフライのハシーブ・クレシ、AIによる脆弱性の「発見コスト」報告を提案。コールドカード問題受け

暗号資産(仮想通貨)投資会社ドラゴンフライ(Dragonfly)のマネージングパートナーであるハシーブ・クレシ(Haseeb Qureshi)氏が、AIモデルが同じ脆弱性を発見するために必要な費用を示す「発見コスト(Cost of Discovery:CoD)」を報告すべきだとの見解を8月4日に自身のXアカウントで示した

XRPレジャー、トークン化資産の実利用に向け5機能追加へ、次期「xrpld 3.3.0」でプライバシーやDvPなど強化

リップルX(RippleX)のプロダクト責任者ジャジー・クーパー(Jazzi Cooper)氏が、XRPレジャー(XRP Ledger)の次期ノードソフトウェア「xrpld 3.3.0」に5つのアメンドメント(ネットワークへ新たな機能を追加する仕様変更)が含まれる予定だと、自身のXアカウントへの投稿で7月31日に発表した

【8/4話題】ブーストリーとデジタルアセットがマルチチェーンウォレット年内提供へ、ネットスターズがローソンでUSDC・USDT・JPYC決済実証へなど(音声ニュース)

ブロックチェーン・仮想通貨(暗号資産)・フィンテックについてのニュース解説を「あたらしい経済」編集部が、平日毎日ポッドキャストでお届けします。Apple Podcast、Spotify、Voicyなどで配信中。ぜひとも各サービスでチャンネルをフォロー(購読登録)して、日々の情報収集にお役立てください。

Sponsored