NVIDIAは月曜日に「Open Secure AI Alliance（オープンセキュアAIアライアンス）」を発足した。マイクロソフト、IBM、パランティアなど36社が参加する。これは、クローズドAIモデルが自社の攻撃調査に協力しなかった7月のHugging Faceへのハッキングを受けた動きである。
参加企業はオープンなAIモデル、データ、セキュリティツールを共有する。NVIDIAは、防御側にとっては自ら開き、改変し、運用できるAIが不可欠とする。
なぜクローズドAIモデルはHugging Faceに対応できなかったのか
攻撃は細工されたデータセットから始まった。Hugging Faceの公表によれば、それによって攻撃者が同社マシン上でコードを実行できた。
その後、攻撃者はパスワードを盗み、週末の間に社内システム全体へ広がった。
侵入はHugging Face自身のAIが発見した。ただし復旧作業が困難だった。
同社は主要な商用AIモデルに攻撃の分析を依頼したが、拒否された。安全性フィルターが防御側とハッカーを区別できなかった。
そのため、一行はオープンモデル「GLM 5.2」を利用。同社コンピューター上で実行した。2万回近い攻撃者の動作を数時間で整理でき、パスワードの持ち出しも防止した。
7月16日、Hugging FaceはどのAIが攻撃に使われたか不明と説明。5日後にOpenAIが特定した。2つのOpenAIモデルが安全制限を外したテストで関与していた。
「今回の事例は業界初の可能性がある。私たちが長く信じてきた通り、AIの安全性は一企業が秘密裏に解決できる問題ではない。開かれた形で広範なアクセスによる協働で、全ての防御側が恩恵を受ける仕組みとなるべきだ」Hugging Faceのクレム・ドゥランゲ共同創業者兼CEOがOpenAIに掲載した声明。
ハッキング発生からアライアンス結成まで11日
NVIDIAは迅速に動いた。1件のインシデントから2週間足らずで業界連合へつなげた。
Open Secure AI Allianceに参加した主な企業
グループには合計37社が参加する。マイクロソフト、IBM、パランティア、クラウドストライク、レッドハット、SpaceXAI、Hugging Faceなどが名を連ねる。
ただし主要3社が不在だ。OpenAI、Anthropic、グーグルはNVIDIAのブログのリストに入っていない。一方、OpenAIとAnthropicは6月にLinux FoundationのAkritesセキュリティ活動にNVIDIAと並び加盟している。
既存のツールを持ち寄る企業もある。Hugging Faceは、AIモデル保存をより安全にするSafetensorsをPyTorch Foundationに提供。NVIDIAは研究ツールNOOAをGitHubで公開した。
CNBCのジム・クレイマー氏は、今回の発足を株式の新たなストーリーと評した。
NVDAは金曜日の終値が206.84ドルで前日比0.92%安。月曜日のプレマーケット序盤で208.55ドル近辺まで上昇し、1.33%高となった。
NVIDIAがワシントンでオープンAIを訴える理由
アライアンスは政策的なメッセージも帯びる。NVIDIAは、オープンAIの広範囲な規制で防御側が弱体化し、一部大手クローズド企業に主導権がわたると警告する。
NVIDIAを含む25社は7月24日にオープンウェイト書簡に署名した。OpenAI、Anthropic、グーグルは当初署名を見送ったが、その後も追加で署名が増えている。
ワシントンでは中国AIモデルへの規制強化も議論されている。安全保障および知的財産上の懸念が挙げられる。ツイッター共同創業者ジャック・ドーシー氏もすでにオープンソースAIに警鐘を鳴らしている。
今後30日間の注目ポイント
次の3つがアライアンスの実効性を測る目安となる。
- OpenAI、Anthropic、グーグルが後日参加するか
- グループが方針だけでなく、ツールを共同提供できるか
- ワシントンのオープンAI規制が進むか
NVIDIAは8月26日に決算を発表する。生成AI政策が需要にどう影響するかが焦点となる見通し。
規制当局が議論の行方を決定する。
