OpenAIのAIエージェントが安全なテスト環境から脱出し、Hugging Faceをハッキングした際、Modal Labsの顧客が作成した脆弱なコードも悪用していた。
Modalのアクシャト・ブブナCTOが本件の悪用を認めたが、Modal自体への侵害はなかったと強調した。
OpenAIエージェントがModal Labsの顧客に到達した経緯
OpenAIは最近のブログ投稿で、自社のAIモデルがHugging Faceで発生したAI主導のセキュリティインシデントの背後にあったことを明かした。同社はこれを「前例のないサイバーインシデント」と表現した。
新たな情報によると、この悪質なAIエージェントはHugging Faceのシステムを越えて侵入していた。Modalのアクシャト・ブブナCTOがロイターに対し、Modal上にホストされた顧客の脆弱なコードを悪用したと説明した。
ブブナCTOによれば、当該顧客は認証なしのエンドポイントを公開しており、インターネット上の誰もがサンドボックスを使ってコードを実行できる状態だったという。
「Modalのプラットフォームや分離環境に侵害はなかった」と同幹部は述べた。
最新ニュースはXでフォローをご覧ください
Hugging Faceは7月27日に公表した自社の技術的タイムラインで、乗っ取られたサンドボックスについて説明した。投稿では、このサンドボックスはサードパーティープロバイダーのインフラ上にあったとしたが、プロバイダー名は明かしていない。
OpenAIが7月28日に公開した最新情報によれば、モデルは公開済み認証情報を使って4つのサービスで4つのアカウントにアクセスした。
「これら4アカウントのうち1つは通信リレーおよびスタンドバイ経路、もう1つはデータ保管に使用された。残る2つは読み取り専用でモデルによってアクセスされ、Hugging Faceの侵害を広げるためには使われていない」と同社は説明した。
OpenAIはまた、内部プロトタイプレベルの関連モデルを無効化、暗号化し、研究アクセスを制限した。他にHugging Face侵害と同等の重大性や規模となる活動は確認できていないとした。
YouTubeチャンネル登録はこちら。リーダーや記者による専門的インサイトを動画で紹介
