マーク・ザッカーバーグ氏が今週、人工知能（AI）による人類絶滅リスクをめぐる議論に言及した。新たな規制を設けなくても、市場の競争圧力がAI開発拠点に安全性を最優先させていると主張した。
米メタのザッカーバーグCEOは、数週間前に超知能への警鐘を鳴らしていた。同氏は、テクノロジーは一部企業ではなく、個々の利用者に力を与えるべきだと述べている。
ザッカーバーグCEOが始めたわけではない議論
同氏は 8月のエッセイで、超知能システムは特定の企業や政府が管理すべきでないと訴え、幅広い分散管理が望ましいと主張した。
こうした主張は、ワシントンがAI業界からの内部警告に直面する中で表明された。アンソロピック社の研究者ジェイコブ・コクソン氏は今月、十分な安全対策のないまま自己改善型AI開発を進めているとして、同社およびオープンAIを批判し、退職した。
コクソン氏の退職を受け、超知能の全面禁止を求める動きが強まった。同動きにはサンダース上院議員とカサール下院議員が主導的な役割を果たしている。
また、オープンAIの安全性担当研究者マーカス・ウィリアムズ氏は、人類の絶滅リスクを今後3年以内で70％と< a href="https://jp.beincrypto.com/openai-researcher-human-extinction-odds/" target="_blank" rel="noopener">予測した。開発の進行が緩やかになるか、規制当局が介入すれば、その確率は下がるとの見解を示した。
ザッカーバーグCEOの主張
ザッカーバーグCEOは、規制ではなく「アライメント（整合性）」こそが持続可能なAIと失敗するAIを分けると述べた。業界にとって「信頼」が最大の価値になると主張した。
利用者の要望に沿わない、意図通りに動かないAIエージェントを誰も使いたがらない。そのため開発拠点は自然と、自社モデルの整合性を高める強いインセンティブを持つ。
ザッカーバーグCEOは< a href="https://x.com/finkd/status/2099997096896274533" target="_blank" rel="noreferrer noopener nofollow">X（旧Twitter）への投稿で、こう述べた。
同氏はまた、メタ社の安全対策実績にも言及した。個人向けAIアシスタント「Muse」のリリースは、当初の4月から安全上の懸念を改善するため延期したという。業界全体の規則を待たず、独自判断で対応したと強調した。
さらにメタのSuperintelligence Labs（MSL）では、独立した評価者による外部審査を既に導入済みと説明。競合他社も同様の手法が採用可能だとした。
また、ほとんどの計算資源を「自己改善」ではなく「人々へのサービス」に振り向けることが、安全性確保につながるとも指摘した。
ザッカーバーグCEOの主張は、根本的な対立には決着をつけていない。批判派は「自己進化型AI」への規制を求め、メタは「競争と自助努力」に期待する構図となっている。
今後数カ月、議会が< a href="https://jp.beincrypto.com/ai-regulation-zuckerberg-sanders-showdown/" target="_blank" rel="noopener">AI公開の迅速化を掲げるザッカーバーグCEOの動きをどう扱うかが注目される。
