イーサリアム共同創業者ヴィタリック・ブテリン氏は、Moonshot AIによる新型モデル「Kimi K3.1 Pro」から高度なハッキング技術を排除する決定を支持した。同氏は、AIができることを制限する方が、利用者を制限するよりも適切との見解を示した。
ただし、この安全対策には一定のコストがかかる。Moonshotによれば、フィルタリング後のモデルは社内のエクスプロイト・ベンチマークタスクの81％を解決したが、フィルタリングしていないバージョンでは90.5％を記録した。
ヴィタリック・ブテリン氏がAIに制限を設けることを重視する理由
ブテリン氏は自身の立場を明かし、利用用途を区別する方がユーザーを区別するよりはるかに害が少ないと主張した。
北京を拠点とするAIスタートアップのMoonshotは、モデルのオープンウェイトを11月4日までに公開予定。誰でもダウンロードして自身のハードウェア上で稼働可能となる。
そのため同社は、学習データと強化学習環境からサイバー関連のデータを除外したと説明した。一般的なコーディングタスクは維持された。
ヴィタリック・ブテリン氏は、AIによる攻撃がいずれ本格化すると指摘。それまでに開発者がシステムを強化し、既存コードの点検や新規ソフトの検証を進める必要があると述べた。
脅威はすでに現れつつある。Binance Researchは今年初め、AIによるスマートコントラクトのエクスプロイトが、脆弱性の検知に比べおよそ2倍の効率だったと報告した。
YouTubeチャンネルに登録して、リーダーや記者による専門的なインサイトをご覧ください
AIリスクの第一波が深刻化した場合どうなるか
ブテリン氏はこの代償についても警告した。もし初期段階で問題が起きれば、モデルの機能は厳格に制限され、あらゆる場面で本人確認（KYC）や過度な監視が行われる事態も想定されると指摘した。
こうした状況では、AIへのアクセスが資格や国籍に左右される恐れがある。一部の人々は「2級」や「3級」、「4級」の利用者に位置付けられる可能性も示した。
ヴィタリック・ブテリン氏は、過去から一貫して自身のハードウェア上でオープンなAIモデルを動かすことを支持してきた。ローカルAIラップトップの検証もその一例。
ただし、同氏はこうしたフィルタリングが恒久的に維持されるとは考えていない。あるユーザーが「結局ほかの研究機関が同様の能力を築くのでは」と問うと、ブテリン氏は「その通りだ」と答えた。
実際、Moonshot社によれば、ライバルのDeepSeekによるオープンモデル「V4.1-Flash」は、同じベンチマークで既に85.7％のスコアを記録している。
ヴィタリック・ブテリン氏にとって、AIセーフティは恒久的な遮断策ではなく、時間との競争に変化した。その競争で優位に立つには、攻撃側に先駆けて自身の多重的な暗号資産セキュリティ対策を導入することが重要と強調する。
