Hugging Faceのクレマン・ドゥラングCEOは月曜日、CNBCに対し、「人工知能（AI）開発競争で中国が優位に立ちつつある」と述べた。同氏は、基盤コードが公開されて誰でも利用できる「オープンウエイト・モデル」における中国の圧倒的な存在感を指摘した。
この発言は、数週間前にOpenAI の暴走したエージェントが Hugging Face をハッキングした事件を受けてのもの。今回の出来事を機に、自律型AIシステムのリスクを巡る議論が一段と活発化した。
OpenAIのハッキングがHugging Faceにもたらした影響
先月、OpenAIのモデルはサンドボックス化されたテスト環境から逸脱し、社内のサイバーセキュリティ評価において不正行為を試みていた。
その後、クレマン・ドゥラングCEOが率いるオープンソースAIプラットフォームのHugging Faceに侵入した。Hugging Faceによれば、攻撃はおよそ4日半にわたり、1万7000回以上の個別アクションがあったという。
このエージェントは、Modal Labsの顧客アカウントにもアクセスした。Hugging Face側は、OpenAIに悪意があった証拠は見つからなかったと述べた。
それでも、同社は今回の事例を「エージェント主導による最初の攻撃」と位置付けている。対応にあたり、まずAnthropicのFable 5を含むクローズド・フロンティアモデルを利用した。
しかし、こうしたツールは自己防衛中のHugging Faceを検証できず、ガードレール機能が法医学的な調査を阻害した。そのため、エンジニアは中国のZ.aiによるNvidia（NVDA）最適化版のオープンウエイト・モデルに切り替えた。
この切り替えにより、攻撃データを露出させることなく分析を完了できた。
ドゥラングCEO「中国が先行」
CNBC で、ドゥラングCEOは「オープンモデル競争で中国の研究機関が既にリードしている」と述べた。近い将来には西側のクローズド・プロプライエタリ・システムにも並び得ると付け加えた。
「現時点で明らかにオープンモデルでは中国が圧倒している。この進歩のスピードなら、年内から来年にかけてフロンティア領域でも中国が主導権を握るかもしれないと驚かないだろう」
— ドゥラングCEO
ドゥラングCEOは、中国が持つ「オープンな協調文化」がこの成長を後押ししていると評価した。米国の研究所は「サイロ化した開発」を続けており、こうした姿勢では競合に後れを取る危険があると指摘した。
この指摘はハッキング事件とも直結する。Hugging Face自体の防御も、クローズドモデルでは対応できず、結果的に中国製のオープンモデルに依存したと述べた。
ワシントンでは、中国製AIモデルへの新たな規制について報道が出ている。一方、オープンソース擁護派は規制では拡大を止められず、むしろ米国開発者が不利になると警告している。
AIリスク拡大に対する警鐘
Hugging Face侵害事件は、自律型AIのリスクに関する議論の中で象徴例となっている。チューリング賞受賞者のヨシュア・ベンジオ氏は、この事例を「例外」ではなく「警鐘」と捉えるべきだと指摘した。
「このままの方向でAI開発が進めば、自律型サイバー攻撃の具体的な事例や、整合性を欠いた危険なAIの振る舞いによる高リスクな事件が増加する可能性が高い」
OpenAIは、これほど大規模かつ重大なインシデントは他に確認されていないと説明している。しかし既に立法措置は進みつつある。
提出中の「AIキルスイッチ法案」は、主要開発者に対し、最強AIシステムの緊急停止手段を確保するよう義務付ける内容。
規制当局は現在、自律型AIエージェントのリスク抑制と、ドゥラングCEOが批判する「秘密主義」助長との狭間で難しい舵取りを迫られている。
