◆ Stacks
MEMORY MULTIPLIER
Jukan (@jukan05) · 2026-07-22 · 原文: EN

オープンソースAIはメモリ需要を減らすどころか増やすかもしれない

Stacksアプリで見る → 元記事を読む ↗

オープンソースAIモデルが広がるほど、メモリ半導体の需要はむしろ増えるという見方が出ている。バンク・オブ・アメリカ(BofA)の半導体アナリスト、ヴィヴェク・アーリヤが示した論点を、情報発信者Jukanが Xで紹介した。多くの投資家は、安価なオープンウェイトモデルが増えれば高価なメモリハードウェアへの支出も減ると考えがちだ。アーリヤの主張はその逆だ。GPTやGeminiのようなクローズド型モデルは、世界中の需要を少数の大型データセンターにある共有HBMプールに集約して処理するため、利用が増えるほど利用者一人当たりに必要なメモリはむしろ減っていく構造になる。一方オープンソースモデルは逆の方向に動く。同じオープンモデルを自社サーバーに直接載せる、セルフホスティングする企業が1万社あれば、その1万社それぞれがモデルの重み全体を個別に複製し、さらに独自のKVキャッシュ、モデルが回答を生成する間、一時的に保持する「メモ」まで新たに用意する必要がある。2026年には12万8000から最大100万トークンという長い文脈窓が当たり前になりつつあり、このキャッシュだけでセッションあたり40ギガバイトを超えることもある。ここに安価な中国製オープンソースAPIが加わると、大手クラウドを借りるより自前でサーバーを持つ企業がさらに増え、それは個別の導入が増えることを意味し、導入ごとに広帯域メモリ(HBM)が別々に必要になる。一見メモリ使用量を減らしそうなオープンソースの普及が、逆にメモリソケット需要を何倍にも増やす格好であり、SKハイニックスのようなHBM供給企業にとって直接的な追い風となる流れだ。

Why it matters · この見方が正しければ、安価なオープンモデルがAIインフラ投資を減らすという弱気論は逆転し、モデルコストが下がってもHBMメモリ需要は拡大し続ける可能性があるということになる。

考えるべき点 · オープンモデルが広がるにつれ、セルフホスティングの計算通りメモリ需要は本当に倍増するのか、それとも推論効率の改善が増えたメモリ負担をいずれ相殺するのか。