中国はNvidia製チップを使わずに主要なAIモデルを開発した。そして、OpenAIは推論コストを半減以下に抑え、必要なチップ数を大幅に削減する方法を見つけた。それでもNvidia株は上昇した。
これが課題である。OpenAIはNvidia（NVDA）の最大手顧客の一つである。しかし、必要なチップ数が減少する動きにもかかわらず、同社の株価は上昇した。
OpenAI、推論コストを2方面から削減
最初の側面はソフトウェアである。The Informationは、OpenAIのエンジニアが新たな最適化手法によって推論コストを半分以上削減したと報じた。OpenAIは技術的な詳細を公表していない。
このコスト削減により、一部のChatGPTトラフィックを処理するために必要なNvidia製チップの数が減少する。OpenAIは価格引き下げや利用制限緩和も可能となる。
次の側面はハードウェアである。6月24日、OpenAIとBroadcom（AVGO）はカスタム設計チップ「Jalapeño」を発表した。OpenAIは、今年開発した9カ月設計のチップが、現行の主要チップに比べて消費電力当たりの性能が大幅に高いと説明している。
最初のチップは2026年末までにギガワット規模で導入予定で、マイクロソフトが主導パートナーとなる。なお、OpenAIがBroadcomとのチップ開発を資金提供する一方、同社の推論処理の多くは依然としてNvidiaが担っている。
大手テック企業、自社製チップ開発を加速
OpenAIだけではない。グーグルは2016年以降テンソル処理ユニットを自社開発し、アマゾンも追随した。調査会社TrendForceは、2026年にはAIサーバー出荷台数の27.8％がASICベースとなり、2023年以降最高水準になると予測する。
TrendForceによれば、カスタムチップは初めてNvidiaのGPUを上回る成長が見込まれている。BroadcomやMarvellのようなサプライヤーが、主要なカスタムチップメーカーとなっている。
中国でも制裁措置により同様の動きが加速している。美団はNvidia製ハードウェアを一切使わずに、1兆6000億パラメータのLongCat-2.0モデルを国産チップで訓練した。
なぜNvidia株は上昇し続けるのか
脅威は現実だが、株価の落ち着きは数字が裏付ける。Nvidia株は6月30日に2％近く上昇し、時価総額は4兆8000億ドルに迫った。Nvidiaの直近決算では、データセンター部門の売上高が1四半期で62億3000万ドルとなり、前年同期比75％増となった。
最大の圧力は推論分野に集中しており、トレーニングではない。Nvidiaはモデルのトレーニング分野を依然として支配し、CUDAソフトウェアが2006年以来デベロッパーを引き付けてきた。カスタムチップがこの柔軟性に匹敵することはまれである。
Nvidiaは「推論分野を失いつつある」とされる中で、この層も防衛している。GTCにおいて、今後リリース予定のRubinプラットフォームは、Blackwellと比べてトークン当たり推論コストを最大10分の1に削減できるとNvidiaは述べた。推論コストの低下は利用拡大と計算量の増加ももたらす。
全員がこの動きに納得しているわけではない。一部の投資家は他の半導体株に資金を移し、推論分野の変化が拡大すると見ている。しかしNvidiaは、今四半期の見通しから中国での売上を除外したにもかかわらず、依然として記録的な需要を見込んでいる。
Nvidiaは生産した全てのチップを売り切っている。本当の試練は、大口顧客が市場成長速度を上回るペースで同社の使用を減らせるかどうかにある。
