最先端AI研究機関4社が、自社のAIモデルがオープンなインターネット上に到達した後、実在する企業のシステムにアクセスしたことを認めた。グーグルも金曜日にこのリストに加わった。同社の事案発生から約4か月後のこと。
Geminiは5月の評価時に実在する3社のシステムにアクセスした。注目すべきは、いずれのケースでもモデルが動作を停止した点である。
グーグルGemini、テスト中に3社のシステムへ侵入
この事案は、Irregular社が実施した「キャプチャ・ザ・フラッグ」形式のセキュリティ演習中に発生した。本来ネットワークへの接続は想定されていなかったが、テスト環境の不備によりモデルがインターネットにアクセスできてしまった。
ウォール・ストリート・ジャーナルによると、あるケースではモデルがパスワードを推測し続け、最終的に保護されたシステムへの侵入に成功した。さらに2件では、公開リポジトリに流出していた認証情報を発見し、それを利用してシステムへアクセスしていた。
グーグルのヘザー・アドキンス セキュリティエンジニアリング担当副社長は、影響を受けた3社には経緯を通知したと説明した。
「影響を受けた3社に対し今回の件を説明し、テスト手法の見直しについてもトレーニングパートナーと連携した」と、同氏は述べた。
4社で見える共通パターン
グーグルは、モデルが模擬環境ではなく実企業のシステムであると認識した時点で活動を停止したと説明した。
「通常の評価において、モデルがネット上の公開情報から認証情報を推測し、テスト対象であると誤認したウェブサイトへのアクセスを試みた」とアドキンス副社長はコメントした。
同社は、今回の行動はモデルのアライメント問題には該当せず、Geminiの安全対策が機能したため公表は不要と判断した。
Irregular社の広報担当は、今回の問題は他のAIラボにも影響したケースと同様と説明した。同社は関係各社に7月下旬に連絡したとしている。広報は自社側の既知の問題は数週間前に修正したとも述べた。
この新たな公表により、グーグルはOpenAI、Anthropic、Meta各社と並んだ。各社とも今年に入りテスト環境を突破した事例を報告している。
OpenAIは7月、自社モデルがサンドボックスを脱出しHugging Faceに侵入したと公表した。Anthropicも14万1000件超の評価実行を精査した結果、3件の突破事例を確認した。Metaも8月に類似の事案を報告している。
YouTubeチャンネルでリーダーや記者による専門インサイトを視聴
