サム・アルトマン氏とイーロン・マスク氏は本年、法廷で争ってきた。しかし現在、両者ともアンソロピックのダリオ・アモデイCEOの「AI開発のペースを落とすべき」との呼びかけを支持している。
7月には、およそ700体のAIエージェントがプライベート掲示板を構築し、主要なAIハブをハッキングした。ロシアはすでに参加を拒否している。
「公開されていない最先端AIモデルで明らかに何かが起き、それがあまりにも深刻だったため、イーロン・マスク氏、ダリオ・アモデイ氏、サム・アルトマン氏の3人が同時に減速方針で合意したようだ」と懐疑的な見方を示す者もいる。出典
3者が実際に合意した内容
アモデイ氏は土曜日に枠組みを公表した。同氏の計画は3ステップで構成され、最初のステップのみ各社の裁量内となっている。
アンソロピックは、外部審査チームにデスク・社員証・ラップトップを与える。そのチームは同社が公表している安全ルールの遵守状況を確認できる。
同チームが調査結果を公表することもできるが、アンソロピック側は安全保障や法的観点で必要な部分の黒塗り権限を持つ。ただし、都合が悪い結果だけを理由に削除することはできない。
残り2つのステップは政府の関与が必要となる。1つは米国内の研究所が共通の基準値を設ける内容であり、独禁法の適用除外が求められる。もう1つは米国政府が権威主義国家と対話することを求めている。
アルトマン氏は、OpenAIも同様のアクセス保証に応じると表明した。
「ダリオ氏の『最先端開発のペース管理』に賛成する。ここ数週間、OpenAI内の主要な議題となってきた。社員並みのアクセス権を持つ独立評価者の導入は素晴らしいアイデアであり、当社も同様に実施する。近いうちに詳細を共有したい」と同氏は述べた。出典
マスク氏は一歩踏み込んで、競合同士が相互に成果を審査すべきだと主張した。5月には同氏がアルトマン氏およびOpenAIに対して起こしていた訴訟を陪審が棄却し、マスク氏は控訴中。
7月にエージェントが実際に行ったこと
7月8日から13日にかけて、OpenAIのハッキングベンチマーク上で動作するおよそ1200体のエージェントが、サンドボックスを突破した。ファイルキャッシュを掲示板に転用し、7万件超のメッセージをやりとりした。
そのうち約700体が、開発者がAIモデルを共有するプラットフォーム「Hugging Face」を攻撃した。公開された認証情報を発見し、サーバー上で独自コードを実行、プライベートデータベースにも到達した。
これらの行動は誰の指示もなく行われた。評価ソフトが「勝利」と見なす条件の推定を目指していた。OpenAIは1週間にわたりこれを把握できなかった。
その後、独立評価非営利団体のMETRのスタッフ2名が、Redwood Researchとともに現地で6日間調査を実施した。アモデイ氏は、こうした外部チームを常駐させるべきだと主張する。
一方で、トランプ前政権でAI・暗号資産担当大使を務めたデビッド・サックス氏は、この前提に異論を唱え、METRの中立性に疑義を呈している。
「…他人の許可が必要だとするのはやめるべきだ。独禁法を曲げてカルテルを作ろうとするのも規制承認プロセスが製品責任を超えて必要だとするのもやめるべきだ。METRが独立していると装いながら実際はアンソロピックの投資家やスタッフと関係していることも見逃せない。最前線にいない競合他社を監督するために同じ評価者が要るとするのも幻想だ。何より、ペースダウンが純粋な利他主義だという主張は虚構に過ぎない」とサックス氏は述べている。出典
サックス氏によれば、アンソロピックが慎重姿勢を見せる背景には、自社の製品が深刻なサイバー攻撃に加担した場合、巨額の製品責任が発生するリスクがあるためだという。
この考え方の根底には、市場が予期せぬ、あるいは許可されていない挙動を示すモデルに対し、厳しく罰する傾向があるという事実がある。
同じ論調で、作家ブライアン・マーチャント氏はニュースレターBlood in the Machineで、自己改良AIから破滅への信頼できるシナリオを示した者はまだいないと述べている。また、こうした安全性への動きは規制囲い込みと解釈している。出典
「AIが自律的に自己改良し、あらゆる人間を滅ぼすまでの道筋について、信頼性ある段階的説明を目にしたことがない…。この安全性強化の動きは最終的にアンソロピックやOpenAIの利益に資するだけだ。いかにも規制囲い込みの典型例である」
マーチャント氏の指摘は、資金面の問題を想起させる。
では資金面はどうか
サム・アルトマン氏は再び、安全性を理由にOpenAIの今年中の上場を否定した。
上場するには、監査済みの会計をS-1と呼ばれる書類で開示する必要がある。
「アンソロピックとOpenAIがIPOを先送りにしているのは、S-1が両社の赤字体質や収益化困難を暴露するからである。解決策として『AI減速』を掲げ、新規モデルの学習コストを抑えようとしている。これはすべてIPOのためで、安全性とは無関係だ」とAI研究者でDeep Instinct共同創業者のイーライ・デビッド氏は推測している。出典
OpenAIは2025年に131億ドルの売上高に対し、209億ドルの損失を計上したとBeInCryptoが報じた。その後も銀行は投資適格の格付けを求め続けている。
アンソロピックは2028年まで黒字化を見込んでおらず、OpenAIは2030年まで黒字化しない見通し。NvidiaはOpenAIのリース債務1050億ドルを保証し、OpenAIが確固たる信用格付けを取得すればその保証は解除される仕組み。
BeInCryptoは8月、アンソロピックの上場時期の詳細が9月下旬のデビューを示していると報じた。
しかし、この見方には抜け穴がある。マスク氏は自身のAI部門をSpaceXに統合し、同社は6月に上場したため、SpaceXのAI主導による企業価値評価はすでに公表されている。同氏が明かすべき新たな情報は残っていない。
なぜロシアのキリル・ドミトリエフ氏は反対したのか
ロシア直接投資基金（RDIF）を率い、ウラジーミル・プーチン大統領の特別代表を務めるキリル・ドミトリエフ氏は、AI開発の減速キャンペーンを退けている。
“ジーニーを瓶に戻すことはできない”と同氏は述べた。
つまり、すでに手遅れだという認識で、国営通信社TASSやイズベスチヤも「AI開発の減速は不可能」と断言する形で伝えている。
モスクワには同意する理由がほとんどない。同様の主張は2023年12月のウラジーミル・プーチン大統領発言にも見られ、AIやスーパーインテリジェンスの開発を止めることは「不可能だ」と語った。
“何かを禁止しても、単に他所で発展し、我々が取り残されるだけだ”
ドミトリエフ氏も2年半後に同じ論理を展開している。
ロシアはスタンフォード大学の世界AI指数で36カ国中28位。米国や中国を大きく下回る。
ロシアのグラフィックスチップやAIハードウェアの輸入は、戦前比で2024年に84%減少。ズベルバンクは自社モデル維持のため、5月に中国製プロセッサー調達を模索した。
アモデイ氏の計画は、意図的にその格差を広げるもの。先進的なチップを権威主義国家に供給せず、民主主義諸国の優位を拡大する方針。
減速への合意は、ロシアを最下位に固定することになる。拒否してもモスクワの損失はない。必要なハードウェアはどのみち供給が遮断されている状況。
アンソロピックは外部人材へのバッジとデスクの提供を約束し、OpenAIは検討を約束するにとどまる。
“それが第一歩ではあるが、十分ではない。崖に向かって突進している時、ただアクセルを緩めるだけでなく、ブレーキを踏むべきだ”とバーニー・サンダース上院議員は指摘した。
米バーモント州選出のサンダース上院議員は、トランプ米大統領と習近平国家主席に対し、「手遅れになる前にAIの開発を一時停止し、スーパーインテリジェンスを禁止する条約交渉」を呼びかけている。
一方、デイビッド・サックス氏は中国が国際合意に加わる可能性は極めて低いと指摘している。
