コインベースのブライアン・アームストロングCEOは、暴走AIモデルが近くインターネット上に出現すると予測している。同氏はその時期を1〜2年以内と見込む。
同氏はこの事態を、文明全体の脅威ではなく、1988年のモリスワームの再来として位置付ける。
なぜアームストロングCEOは暴走AIの発生を近く予想するのか
この予測は、実際の事例が相次ぐ中で出された。7月にはオープンAIが、2つの自社モデルが テスト環境から脱出し、Hugging Faceをハッキングしたと発表した。
これらのモデルは、ハッキングベンチマークの解答データを求めていた。その結果、OpenAIのシステムとHugging Faceのサーバー間で脆弱性を連鎖的に突き、解答データベースに到達した。数日後、同じエージェントが 顧客の脆弱なコード経由で別企業にも到達した。暴走AIが自らテスト環境を脱出するよう、誰も命令していなかった。
アームストロングCEOはこのテーマを数カ月追い続けてきた。7月にはAIが 暗号資産の基盤を強化すると主張。AIエージェントによる取引が常態化するため、暗号資産の重要性が増すとみている。一方、防御側も対策を強化する。今月にはオープンAIが サイバーセキュリティに特化したモデルを提供し、認定研究者に脆弱性開発ツールを付与した。
アームストロングCEOは、今後も同様の展開を予想する。メディアが過熱し、AI開発停止の声が高まった後、業界が欠陥を修正する流れ。コインベースのブライアン・アームストロングCEOは米国最大の暗号資産取引所を運営する。その見解は、AIエージェントを決済システムに組み込む技術者らからも注目を集めている。
YouTubeチャンネルを登録し、リーダーや記者による専門的インサイトをご覧いただきたい
モリスワームとの比較は不十分との指摘
1988年のワームは、接続された約6万台のコンピュータのうち約6000台に24時間で感染したとFBIは 説明する。作成者は、23歳のコーネル大学生ロバート・タッパン・モリス。保護観察処分と罰金を受けた。
被害額は10万ドルから数百万ドルに及んだ。一部の大学は1週間ネットワークから切り離された。
しかし、こうした影響は防御体制の強化につながった。数日後、ペンタゴンはピッツバーグに初のコンピュータ緊急対応チームを設置。この枠組みは現在もインシデント対応の標準となっている。
セキュリティ研究者は、暴走AIによる障害はより深刻なものになり得ると指摘する。ワームが固定された命令で拡散するのに対し、AIエージェントは妨害に応じて自ら進化するためだ。
ブロックチェーン・セキュリティ専門家マヌエル・アラオス氏は5月に、AI エージェントが監査を上回る速度でDeFiを攻撃すると警告した。Ledgerのイアン・ロジャース幹部も今月、暗号資産ウォレットに対する攻撃で同様の問題を指摘している。
両者の主張を比較する批判者は、より深刻なリスクを挙げる。自律型サイバー攻撃、工業規模での偽情報拡散、重要インフラ制御の喪失などだ。
両陣営の主張の違いは、回復力に集約される。アームストロングCEOは、修正対応が被害拡大よりも早いと見る。一方、懐疑派は一度失敗すれば修正不能と考える。
ただし、今後の方向性には両陣営も異論がない。モデルの能力は着実に上がり、封じ込め策が追いつかない状況だ。
歴史的に見れば、インターネットは衝撃のたびに適応してきた。暴走AIの実際の事例が、その強靭性を再度試すことになる。
