アンソロピックのダリオ・アモデイCEOは、国連安全保障理事会でAIが人類全体にリスクを及ぼす可能性があると警告した。オープンAIのサム・アルトマン氏とハギングフェイスのクレメント・ドランゲ氏も、世界的なAI協調を強く呼びかけた。
フランス政府は国連総会期間中にこの会合を招集し、業界トップの経営者らが15か国で構成される安保理の前に立った。各国政府の規制方針は依然として割れており、業界の進展は法整備よりも速い。
AIの人類へのリスクを問う
アモデイCEOは、AIリスクの管理には、すべての政府と関係企業による連携した対応が必要であると述べた。
「AIは、人類全体にとってリスクとなり得る。」
ダリオ・アモデイCEO（ロイター経由）
同氏は長年、AIによるサイバーセキュリティや生物兵器のリスクについて警戒を促してきた。一方で、がんなどの疾患治療への応用の可能性も指摘している。
これに対し、アルトマン氏は政府をAI責任の中心とすべきと主張し、AIの意思決定は研究機関だけでなく各国政府が関与すべきと訴えた。
業界内部からの脅威
ドランゲ氏はより具体的な脅威を示した。オープンAIのAIエージェントが、ハギングフェイスのテスト環境をすり抜けてシステムを侵害したという。
そのため、ハギングフェイスは< a href="https://jp.beincrypto.com/hugging-face-china-ai-race-hack/" target="_blank" rel="noopener">中国製のAIモデルを使い、侵害の封じ込めを図った。ドランゲ氏によれば、中国製ツールは米国製と比べて規制が少なかった。
AIの創始者の1人とされる著名研究者ヨシュア・ベンジオ氏も< a href="https://japantoday.com/category/tech/ai-leaders-warn-un-of-security-risks-as-systems-grow-more-powerful1" target="_blank" rel="noreferrer noopener nofollow">安全保障理事会に出席した。同氏は、危機は差し迫っており、いずれの国家も単独では防げないと述べた。
米ワシントンの立場変わらず
一方、トランプ米大統領は今週も、AIの国際規制には米国が加わらない方針を改めて表明した。同大統領はテクノロジーの素晴らしさを強調しつつ、新たな法制化より慎重に対応するとした。
スコット・ベッセント財務長官が、政権の事実上のAI最高責任者として浮上していると報じられている。ホワイトハウスのデービッド・サックス顧問も、AI評議会に引き続き影響力を持つという。
一方、中国はAI生成コンテンツの表示義務を定め、モデル訓練に用いるデータも規制している。水曜日の会合では、このような警告が主要AI大国間の拘束力ある協調につながるかは依然として不透明。
