OpenAIのセーフティ・オーバーサイトチームに所属するテクニカルスタッフの1人が、AIラボ各社が開発ペースを緩めるか規制当局が介入しない限り、今後3年以内に人類が絶滅する確率を70%に達すると見積もった。
この発言を行ったのは、2025年5月に同社に入社したマーカス・ウィリアムズ氏。X上で警告を投稿した後、他のユーザーから具体的な数字を求められ、確率を明示した。
人類絶滅という推計が出た経緯
ウィリアムズ氏は、AI規制やラボ間の協調的な減速がなければ、今後数年で人類絶滅が極めて高い確率で発生すると指摘した。
別のユーザーがこれを賭けに持ち込み、マイクロソフト株1万ドル分をオープンAI株と5年間かけて比較しようと持ちかけた。ウィリアムズ氏はそのやり取りのなかで確率を回答した。
「規制や開発減速がなければ、今後3年以内の確率は70%だが、規制や減速は十分に起こり得ると考えている」
ただし、この「十分に起こり得る」という留保も数字と同じほど重要である。ウィリアムズ氏は規制や開発減速の実現可能性を認めており、結論が既に決まったとは見なしていない。
米ワシントンではAIリスク規制が加速
こうした発言が出た週、AIラボの安全性問題は主流の政治課題へと浮上した。9月9日にはアンスロピックの研究者が辞職し、アンスロピックやOpenAIが人命を賭けていると非難した。
米議会は翌日に反応。AIの開発一時停止を目指す新たな規制推進の動きが始まり、スーパーインテリジェンスの全面禁止を盛り込んだ上院法案も提出された。
ラボ外からも警鐘が鳴らされている。国連人権高等弁務官は今週ジュネーブで高度AIを「実存的リスク」と位置づけた。
ウィリアムズ氏の見通しは依然として突出している。アンスロピックでアラインメント科学を率いるエヴァン・ヒュービンガー氏は、今後10年で確率を10%超と想定する。ノーベル賞受賞者のジェフリー・ヒントン氏は10〜20%という幅を示す。
一方、暗号資産トレーダーはこれらの警告を直接追跡し始めている。Polymarketは数時間内にウィリアムズ氏の発言を自身のフォロワーに配信し、選挙やマクロイベントもトークンの確率と組み合わせて取引している。
したがって、目下の焦点は技術論ではなく政治判断である。規制当局がウィリアムズ氏の示す3年の猶予内に行動できるかは未確定であり、同氏も「まだ可能性は残っている」と述べている。
