米国議員は、アンソロピック研究員の辞職を受け、高度な人工知能（AI）開発の停止を求める動きを強めている。上院では超知能（スーパ―インテリジェンス）の全面禁止を盛り込んだ法案も提出された。
ジェイコブ・コクソン氏は9月9日に辞職し、アンソロピックとオープンAIの双方が人命を賭けたギャンブルをしていると主張した。
アンソロピック研究員の辞職が米議会で問題化した背景
20人を超える議員がこの話題に反応し、多くが新たなAI規制を求めた。バーニー・サンダース上院議員は、超知能の禁止およびAI開発の一時停止を盛り込んだ法案を提出する方針を明らかにした。
BeInCryptoは今月初め、サンダース上院議員とグレッグ・カサール下院議員が「人工超知能禁止法（Ban Artificial Superintelligence Act）」を共同提案したと報じた。同法案は、超知能AIの開発および実用化を恒久的に禁止する内容であり、連邦規制当局が安全基準を策定するまで高度AIの開発を停止することも定めている。
一方、カサール下院議員も現状を「緊急事態」と表現し、議会での公聴会開催を求めている。ローリ・トラハン下院議員は、自身がジェイ・オバーノルテ下院議員と7月に提出した超党派法案「FRONTIER法案」への議員の関心を促した。
「FRONTIER法案は、先進的AI開発者の規模に応じた階層的な要件を規定している。モデルカード、リスク管理フレームワーク、独立監査、インシデント報告、継続的な評価などを義務付ける内容だ。また、透明性や監査、壊滅的リスクの報告について全国で統一的な基準を設け、州ごとに異なる規制が乱立する事態を防ぐ」と、発表に記載されている。
クリス・バン・ホーレン上院議員は、中国との緊急協議と法的な安全対策の義務化を求めている。テッド・リュー下院議員は、今年自身が提出したAI停止法案（AI Kill Switch法案）の審議を共和党指導部に要請している。
共和党のアンナ・ポリーナ・ルナ下院議員は、党派を超えてAIをテーマとした特別議会の開催を訴えた。
「ルールは必要」ジェイコブ・コクソン氏の見解
圧力は政治だけではない。AI企業も規制を支持する姿勢だ。コクソン氏はCNNに対し、経営陣が規制を議会に訴えるのは本心だと語った。ただ、各社は他社を十分に信頼できず、誰が最初に開発の速度を落とすか決断できない、とも述べている。
「こうした関係者は本気で規制を望んでいる。そして、致死的な技術をめぐり開発競争を強いられている現状に直面している」と同氏は述べた。
アンソロピック社も9月の投稿で、業界全体が法的に担保され検証可能なペース調整メカニズムの導入で恩恵を受けると表明した。
「絶滅リスク」が始まるのはどこか
コクソン氏が危機を指摘する理由は今後の予測にある。AIがAI研究という課題を与えられると、自らを改良し始めると説明した。
今週火曜日には、オープンAIのAIシステムが完全自律的に1000年越しの難問を解決したとの報道がある、と同氏は指摘した。
問題は、同じ手法がAI自身に適用された場合だという。人間の介入なしにモデルがモデルを改良し合う現象を、コクソン氏は「知能爆発」と呼ぶ。
「現時点で絶滅リスクはない。現行モデルで最悪のケースでもインフラへのハッキングなど甚大な被害を与えるレベルが限界。人類を絶滅させるほど賢くはない」と同氏は述べた。
ただし、同氏はAIが完全に自律し、さらに高い能力を伴った場合、極端な被害の引き金になると警告した。重要インフラのハッキングや、人類絶滅規模の生物兵器の構築などを挙げた。
専門家によるインサイト動画はYouTubeチャンネルで配信中
