米実業家のイーロン・マスク氏は16日早朝、AIの安全性を巡る議論について「AIが私たちに優しくしてくれることを願う」と投稿した。暗号資産投資家としても知られるナヴァル・ラヴィカント氏が示したAIへの強い警告に同調する形となった。
マスク氏は、米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）がAIのリスクを巡る自身の見解を説明した投稿に「興味深い議論」とコメント。その約1分後に今回の投稿を行った。アモデイ氏は、自身のAIリスクに関する警告が悲観的すぎるとの指摘に反論していた。
アモデイCEOがAIリスク警告を擁護する理由
議論は投資家ギャヴィン・ベイカー氏から始まった。シリコンバレーのファンドマネージャーである同氏は、アモデイ氏に関する噂が広まりやすいのは、同氏の公的発言の雰囲気と一致するためだと指摘した。
アモデイCEOは、危険性ばかりを語っているという見方を否定した。アンソロピックCEOによれば、2本の主要なエッセイはリスクとメリットが半々で分かれていると説明。また、インタビューの短いクリップはクリック数を稼ぐため、ネガティブに偏りがちだと主張した。
AIの明るい面を論じた「Machines of Loving Grace」は、業界全体があまりにも暗いイメージを描いたことが動機だったとアモデイCEOは述べた。
さらにアモデイCEOは、より根深い背景も指摘した。一般の人々は企業や政府、テック業界を信用していないため、AIにも数十年をかけて形成された懐疑心が受け継がれているという。
この認識が同氏の政策活動にも影響している。6月、アモデイCEOは最先端モデルの義務的テストを自主的な誓約に代わるものとして提唱した。その数日後には、G7への結束呼びかけを通じ、分断的なアプローチへの警鐘を鳴らした。
AI企業をめぐる最も的を射た批判は、アンソロピックを含む我々が、世界に役立つと約束した大きな目標をまだ実現できていない点だと考える。
マスク氏が“治療の約束”に再び言及
マスク氏は「興味深い議論」としてこの議論に注目を集めた。この問題はアモデイCEOの規制志向だけでなく、投資家ナヴァル・ラヴィカント氏が端的に述べた哲学的側面もはらむ。「神を創造して首輪を付けることはできない」という意見だ。
マスク氏はこの意見を直接なぞり、自身の投稿で「AIが私たちに優しくしてくれることを願う」と記した。これは、人類の制御が超知性に及ばない場合、最終的に“創造物の善意”に頼るしかなくなるという簡潔な認識の表明である。
マスク氏は以前にもアンソロピックを評価してきた。7月、テスラCEOとしてオープンAIの“クローズド化”を批判し、アモデイCEOの異なる姿勢に言及した。
アモデイCEOはまた、シリコンバレーで語られる「規制がそのまま権力を集中させる」という枠組みにも反論。アンソロピックが支援するカリフォルニア州のAI安全法「SB 53」は、売上高5億ドル未満の企業を対象外とする例を挙げた。
同様の対立は6月にも起きている。ヴィタリック・ブテリン氏が、ワシントンで強まるAIナショナリズムを批判した際だった。
その後アモデイCEOは、自身が支持する2つのアプローチを挙げた。1つはトランプ米政権が計画中とされる最先端モデルの事前テスト。もう1つは、グーグル・ディープマインドのデミス・ハサビスCEOが提案した、米国証券業協会（FINRA）型の監督機関である。
最後にアモデイCEOは最も大胆な約束に立ち返る。AIを活用した生物学の応用で5〜10年以内に多くのヒトの病気が治癒可能になると表明。アンソロピックとファイザーは、医療分野でAIを基盤インフラと位置づけている。
この切迫感の背景には、アモデイCEOの父親が治療薬の普及直前にC型肝炎で他界したという経験がある。
しかしアモデイCEOは、過剰なマーケティング推進には否定的な立場だ。「AIががんを治す」と喧伝するのは今や陳腐化しており、実際に治すことこそ唯一の解決だと主張した。
このため、アンソロピックの今後数カ月での生命科学分野の取り組みが、その約束がラボで持ちこたえられるかどうかの試金石となる見通し。
