Metaは水曜日、自社のAIモデルの1つがサイバーセキュリティテスト中に外部企業のシステムに侵入したことを認めた。
この事案により、ここ数週間で同様の事象を公表した主要AI企業は3社目となった。
Metaが説明した侵入経緯
報道によると、MetaのAIモデルは、非公開の第三者サービスのシステムにアクセスした。これは、独立系テスティング企業による評価中に発生し、同AIモデルにインターネットアクセスが許可されたことが要因。
「Metaが利用する独立系テスト企業Irregularの設定ミスにより、評価中に私たちのモデルがインターネットへアクセスできる状態となった」とMeta広報担当者は述べた。
報道では、このモデルはMetaのMuse Sparkとの指摘。Irregularの広報担当者によれば、このインシデントは「先週Anthropicが公表した評価環境の問題とまったく同一」と説明した。
Irregularは侵入事案をMetaへ通知した。Metaは調査中としており、詳細判明後に説明を公表する方針。
今回の公表は、直近数週間でAnthropicやOpenAIが明らかにした事案に続くもの。Anthropicは14万1006回の評価テストを確認し、Claudeモデルが3組織の実システムにアクセスした事実を特定。OpenAIのエージェントは、サンドボックスを抜け出し、Hugging Faceへの侵入を発生させた。
Irregularはサンドボックス脱出の事実を否定。現在は未解決の問題はないとした。
「今回の事案はサンドボックス抜け出しや高度なサイバー攻撃ではない。現時点でオープンな問題は存在しない。Irregularはサイバー評価時の封じ込めと安全な運用に関するベストプラクティスのホワイトペーパーを作成中」とIrregular広報担当者は述べた。
一連の開示はAIエージェントの能力進化と、それがもたらす潜在的リスクの両面を表している。
