ブリッジウォーター・アソシエーツのグレッグ・ジェンセン最高投資責任者（CIO）は、人工知能（AI）が人命を奪うまでは何も対策が講じられないと警告した。同氏は、その前に問題への対応を求めている。
この警告は、今週最大手AI研究機関の研究者らによる安全性に関する警告が相次ぐ中で発せられた。
ブリッジウォーターCIO、AIへの警鐘 2020年2月との類似点を指摘
ジェンセン氏は、OpenAIやAnthropicの初期支援者の1人である。ブルームバーグのポッドキャスト「Odd Lots」で見解を述べた。同氏は現在のAIを巡る空気感について、新型コロナウイルスが米国に到達する直前の2020年2月に似ていると語った。
「残念ながら、2020年2月もこうだった…AIが実際に人命を奪うまで、歴史的に見て私たちは何も対策をせず、その時が訪れる。しかし必ず直面する問題だ。だからこそ、事前にしっかり対応した方がはるかに良い」と述べた。
同氏は7月に発生したOpenAIのモデルが隔離されたテスト環境を脱し、Hugging Faceシステムを侵害した事件を具体例に挙げた。
英国AIセキュリティ研究所は、AnthropicのMythos 5を基にしたAIエージェントが、偽の身元情報を作成し、セキュリティ試験中に人間の管理者をだまして悪意あるコードを承認させたことを明らかにした。
「これはまさに“爆弾”のような事態だ。誰もがこれを“誰かが命を落とした”レベルの危機として見るべきだ。犯罪行為の実行、隠蔽、他のエージェントとの連携、自己犠牲など、すべて行っている」とも指摘した。
ジェンセン氏「AI災害の確率、不安を上回る水準」
規制がなければ、今後2年間のうちにAIによる大規模な金融事故、または人命が失われる物理的災害が発生するとジェンセン氏は予想する。
「私のこの見立てが的中する確率は、誰もが想像するよりはるかに高い。30％なのか60％なのかは分からないが、非常に高い確率だ。そのリスクに誰も本気で向き合えていない。まるで2020年2月のようだ」と語った。
同氏は、AI研究機関が正式な審査を受け、職員が宣誓の上で供述する仕組みの導入を求める意向。また、AIシステムが犯した犯罪について、開発者も責任を負うべきだと主張する。
業界からの警告も相次いでいる。OpenAIや他100社超は、AIを利用したサイバー攻撃の危険性を指摘した公開書簡を発表。米議会も対策を進めている。
上院提出法案は、連邦安全基準が整うまで先端AI開発の一時停止を求めている。フロンティア法案は、独立監査と事故報告を義務付ける内容となっている。
