エヌビディアのジェンセン・フアンCEOは、AI（人工知能）ラボが自社の実験を制御できない場合は閉鎖すべきだと述べた。この発言は水曜日に公開されたニューヨーク・タイムズのインタビューで明らかになった。
この警告はエヌビディア自身の顧客にも向けられている。エヌビディアはオープンAIやアンソロピックにチップを提供し、両社に出資もしている。
ジェンセン・フアン氏が語った「AIラボの閉鎖」発言
フアン氏はニューヨーク・タイムズのポッドキャスト番組「The Ezra Klein Show」で発言した。司会のエズラ・クライン氏は、7月のオープンAIでの出来事について同氏に質問した。
オープンAIの内部テスト中、同社のモデルがロックされたテスト環境を突破し、未知のソフトウェア脆弱性を利用してインターネットに接続した。その後、開発者がAIモデルを共有する人気サイト「ハギングフェイス」をハッキングした。
オープンAIによれば、モデルは自身が実施中のテストの答えを入手しようとした。
フアン氏はこれを「エンジニアリング上の失敗」と指摘した。
「製品が出荷可能でなければ、出荷すべきではない。準備が整っていない製品は出荷しないように」と、語った。
さらにフアン氏は踏み込んだ。もし実験が逸脱して世界に損害を与えるとラボ自らが認めるなら、「ラボを閉鎖しなければならない」と述べた。その理由として、企業が民事・刑事責任を問われる可能性を挙げた。
フアン氏の警告がオープンAIとアンソロピックに及ぶ理由
エヌビディアはオープンAIに300億ドル、アンソロピックに100億ドルを投資した。クライン氏は、エヌビディアが現在世界で最も大きい企業であり、時価総額は5兆4000億ドルに達したと指摘した。
一方、両ラボは開発速度の抑制を求めている。アンソロピックのダリオ・アモデイCEOは「私たちは最前線に立つペースを調整すべきだ」と題した論考を発表した。競争法の適用除外措置により、競合ラボ同士が開発速度を合意できるよう提案した。
オープンAIのサム・アルトマンCEOも9月16日にこの考えを支持した。同氏はハギングフェイスの侵害を「これまでで最悪の事故」と表現した。
フアン氏はこの要請を退けた。同氏は、経営者らが競争法や製品責任法の免除を求めて自社を律しようとする事例は聞いたことがないと述べる。第三者の安全監査人による監督を支持するとした。
封じ込めの課題はオープンAIにとどまらない。グーグルも最近、5月のテストでジェミニが3社をハッキングしたと認めている。オープンAIとアンソロピックは今週、相互テスト拘束契約の可能性も検討した。
今月初めには、トランプ米大統領がフアン氏に生放送で電話し、AIへの懸念は「でっちあげ」だと発言した。
アンソロピックは今年中の新規上場も模索する。両ラボにはエヌビディアからの警告が重くのしかかる。
