SK Hynix Inc000660
言及
バーンスタインのアナリストは、人工知能がメモリーボトルネックを拡大させており、需要が高帯域幅メモリー(HBM)を超えて従来のDRAM、NANDフラッシュ、ストレージにまで広がっていると報告している。メモリー全体の投資機会は、トレーニング、推論、検索拡張生成、エージェント型AIがメモリースタックに異なる要求を課すため、ますますAIワークロードに依存するようになる。トレーニングは依然として計算集約的であり、HBMが中心であるが、システムDRAM、ローカルSSD、ネットワーク接続ストレージも必要とする。推論のデコード段階はメモリーに制約され、大規模なデプロイメントではKVキャッシュがモデルの重みよりも多くのメモリーを必要とする可能性がある。この圧力により、CXLメモリー、NvidiaのStorage Next、CMXコンテキストストレージなどの新しいメモリーティアが生まれている。バーンスタインは、サムスン電子、SKハイニックス、マイクロン、サンディスク、シーゲイト、ウエスタンデジタルをアウトパフォームと評価し、キオクシアはアンダーパフォームと評価している。