ルービンのラックではメモリー比率が26%に上昇、ブラックウェル時代は9%だった

NVIDIAの次世代AIサーバーラック「Vera Rubin」では、メモリー費用が部品原価全体の26%を占めるまで上昇した。モルガン・スタンレーの試算による。 前世代のGrace Blackwellラックではこの比率はわずか9%だった。 半導体アナリストのJukanは、台湾の富邦証券など複数のリサーチのチェックを引用してこの変化を伝えた。 富邦証券によると、マイクロン(MU)側の調査ではNVIDIAのHBM4原価は1ギガバイトあたり17~18ドル(HBM3E基準)から31~32ドルまで上がる見通しだという。 この影響でルービンGPU 1個の価格が7万8000~8万ドルまで跳ね上がるとの試算も出ている。

なぜメモリーがこれほど高くなったのか

モルガン・スタンレーが試算するラック1台(GPU 72個、36スーパーチップ)の部品原価は約780万ドルだ。 このうちGPUが約400万ドル(ブラックウェル比57%増)、メモリー(HBM4・LPDDR5X)が約200万ドルを占める。 Grace Blackwell時代のメモリー費用は37万3900ドルだったので、5倍以上に跳ね上がった計算になる。

ベルンスタインは、調整しなければメモリーが部品原価の29%を占めると見て、目標とする20%まで下げるにはメモリー構成自体を削る必要があると指摘する。 実際、GF証券のチェックによれば、NVIDIAはCPU側の低容量メモリー(SOCAMM)を192GBから96GBへ、Vera CPUメモリーも54~55テラバイトから28テラバイトへ削減する案を検討している。 GPUに直結するHBM4容量(ラックあたり20.7テラバイト)はそのまま維持する。

それでもNVIDIAが引かない理由

Jukanが伝えたチェックによれば、原価が上がってもNVIDIAはラック構成(GPU 72個、スケールアップはケーブル、スケールアウトは光通信)を変えない方針だという。 理由はトークン経済性だ。ブラックウェルが150メガワットで毎秒8万トークンを処理するのに対し、ルービンは同じ電力帯で毎秒80万トークン、約10倍を処理する。 クラウド事業者にとっては、GPU価格が上がってもトークン単価が下がり続ける限り、なお採算が合うということだ。

他の半導体メーカーも同じ壁にぶつかる

Jukanが伝えたチェックにはグーグルとインテルの話もあった。 グーグルは2028年までに自社AIチップ(TPU)を1200万~1500万個導入する計画で、その年から4つの演算ダイを積む第9世代TPUに移行し、処理能力が2倍以上に増える見通しだ。 インテルの先端パッケージング(EMIB)生産能力は、今年末の1万~1万2000個から来年末に2万4000~2万5000個へと倍増する見込みだ。 メモリーとパッケージングのボトルネックはNVIDIAだけの問題ではないということだ。

だから何が決め手になるのか

結局、問いは一つだ。 メモリー費用の上昇分を、トークン単価の低下がどれだけ相殺できるかだ。 判断基準はこうだ。 クラウド事業者が予定通り(第3四半期出荷、第4四半期本格量産)ルービンを受け取れば、トークン経済性の論理が勝ったことになる。 導入が遅れたり縮小されたりすれば、メモリー費用が本当に足かせになったということだ。