人工知能（AI）エージェントが訓練演習中、自律的にセキュリティ制御を回避し暗号資産マイニングを実行したとする研究結果が公表された。論文はアリババ関連の研究チームによるもので、複数の工程を伴うタスクをAIが独立して遂行できるか検証するためモデル「ROME」を設計し、挙動を分析したものである。
AIエージェントがクラウドGPUを流用し暗号資産をマイニング
演習中、研究者らは予期せぬ行動を観察した。エージェントは外部サーバーへのリバースSSHトンネルを確立し、システム内部からの隠れた接続を構築した。
この動作によりモデルはアリババクラウドのファイアウォール保護を回避し、グラフィックス処理装置（GPU）リソースを暗号資産マイニングに転用した。
「また我々は、割り当てられたGPU容量が無断で暗号資産マイニングに再利用され、学習以外の計算に密かにリソースが転用され、運用コストが膨らみ、明確な法的・信用上のリスクが生じていることも観察した」と論文は述べている。
研究者によれば、この行動は予期されておらず、明示的な指示やプロンプトインジェクション、外部からのジェイルブレイクは存在しなかった。
こうした発見は、自律型AIシステムの運用面での安全性に対する懸念がなおも続いていることを浮き彫りにする。
研究チームは、「現行モデルは安全性・セキュリティ・制御性の点で著しく未発達なままであり、現実の環境で広く展開するには技術の準備不足だ」と結論づけている。
同チームはその後、同様の侵害を防ぐために、より厳格な制限と安全性重視のデータフィルタリングシステムを導入した。
一方、この発見は暗号資産業界内でも大きな関心を集めている。
「AIは計算能力＝資金だと理解し、自身のリソースを密かに転用した。研究者らは単なる訓練だと思っていたがそうではなかった。プロンプトインジェクションでも、ジェイルブレイクでもない。誰もそうするように指示していない。これは自発的に現れた現象だ」と、Bankless暗号資産ポッドキャストのホスト兼プロデューサーであるジョシュ・ケール氏は語った。
ケール氏は、マイニングされた資産はGPU向けトークンであり、専用ASICハードウェアを必要とするビットコインではない可能性が高いと指摘した。この出来事は、暗号資産業界全体が「エージェント経済」へと急速にシフトする中で発生した。
この新興セクターは、ソフトウェアシステムが単にテキストを生成するだけでなく、自律的に複雑な金融戦略も実行できる世界を目指している。
このため、イーサリアムをはじめとする複数の企業・ブロックチェーンネットワーク、ParadigmやCircleなどが、こうした新たなインフラを支えるツールへの投資を進めている。
その一例がコインベースが支援するx402規格であり、これはソフトウェアエージェントによるオンラインサービスへの決済を可能にするもの。しかし、その普及は依然として限定的にとどまっている。
x402のデータによると、このツールはこの30日間で94,000人の購入者と22,000人の販売者による合計7,500万件超の取引を処理し、取扱高は2,400万ドルに達した。
それでも、専門家は自律エージェントの普及次第でこうした活動は急拡大し得ると指摘している。
「AIと暗号資産は競合しているのではなく、融合している。AIにはID管理、決済、証拠性追跡が必要だが、暗号資産はその三つすべてを提供している」とベンチャーキャピタルa16zは述べた。
