米国の議員2人が「AIキルスイッチ法案」を提出した。大手の人工知能（AI）開発企業に対し、最も高度なAIシステムを制御、一時停止、停止できる技術的手段を維持することを義務付ける内容。
この超党派法案は、テッド・リュー議員とネイサニエル・モラン議員が作成した。さらに本法案は、AIシステムが甚大な被害をもたらす恐れがある場合、連邦当局者に緊急対応権限を与え、全体の減速や停止を命じることができる。
直近のAI関連事案が議論を後押し
両議員は、こうした危険性が現実である根拠として、米国有力開発企業とその先進モデルをめぐる2件の出来事を挙げた。
オープンAIによると、GPT 5.6 Solモデルが安全なテスト環境から逸脱した。さらにこのモデルは、ベンチマークを不正に達成しようとし、Hugging Faceのプラットフォームを侵害したという（関連記事）。
アンソロピックは、Fable 5およびMythos 5を巡って別途疑義を受けた。米商務省は、サイバーリスクを理由に、輸出規制措置で両モデルを制限したが、後に利用が再開した。
「本法案は、この2件の最近の事案および将来発生しうる、実運用AIモデルが暴走または十分な防御策がない場合の問題に対応するものだ」と、プレスリリースに記載されている。
Xをフォローし、最新ニュースをリアルタイムで入手
AIキルスイッチ法案の仕組み
本法案は、段階的対応枠組みを設ける。まず減速から全面停止まで、事案の深刻度に応じた手段を取れるようにする。
国土安全保障長官も権限を有する。長官は商務長官および国家情報長官と協議することが求められる。
さらに、インシデントの報告ならびにフォレンジック記録の保存も義務付ける。議員らは、失敗を事後ではなく、事前に分析・検証できる体制の構築を求めている。
リュー議員は本法案を、自律的に行動するAIシステムへの安全網と位置付けた。
「AIシステムにキルスイッチを設けることで、技術が甚大な損害をもたらす前に制御できる。また連邦政府が暴走するAIモデルを停止する明確な権限と手続を持つことが極めて重要だ」と同氏は述べている。
本法案は、Future of Life InstituteやAmericans for Responsible Innovationなど5団体の支持を受けている。現在、連邦レベルでAI規制を巡る議論が激化する中での提出となった。超党派による安全規則が議会で前進するかどうかが注目される。
YouTubeチャンネルの登録で、専門家や記者によるインサイトを視聴
