NVIDIA 和 SK Hynix 打造专注于 AI 的 SSD,有望将性能提升 10 倍

Enda

NVIDIA 和韩国内存巨头 SK 海力士正在联手开发一款功能强大的新型固态硬盘 (SSD),专门用于处理人工智能 (AI) 推理的大量数据需求,即经过训练的 AI 模型为用户生成实时答案的阶段。

两家公司正在开发他们所说的下一代“AI SSD”,其性能可达到当今企业级 SSD 的十倍。在内部,该计划在 NVIDIA 被称为“Storage Next”,在 SK hynix 被称为“AI-NP”(AI NAND Performance)。

SK海力士副总裁Kim Cheon-seong在韩国人工智能半导体未来技术大会上透露了该项目,并表示新的SSD最终可能达到每秒1亿次输入/输出操作(IOPS),这远远超出了当前企业级SSD所能达到的水平。

为什么 AI 需要新型 SSD

这一推动是由于人工智能计算从训练模型迅速转变为在现实世界的应用程序中运行它们,这一过程称为推理,其中速度和效率至关重要。现代人工智能模型依赖于对大量数据的持续、低延迟访问——远远超过传统 DRAM,甚至高带宽内存 (HBM) 难以经济地处理。

有关的:

SK 海力士已经向 NVIDIA 提供的 HBM 在训练期间的 AI GPU 中发挥了关键作用。但 HBM 价格昂贵,容量有限,而且随着人工智能模型变得越来越大、越来越个性化,它的压力也越来越大。

新SSD背后的想法是将传统上用于存储的NAND闪存转变为更接近专门针对AI计算优化的“伪内存”层。通过将先进的 NAND 芯片与针对 AI 优化的新型控制器架构相结合,SSD 可以比传统存储更高效地向 GPU 提供数据,从而提高吞吐量、降低能耗并降低运行大规模 AI 服务的总体成本。

原型预计于 2026 年推出

该项目目前正处于概念验证 (PoC) 阶段,两家公司的目标是在 2026 年底前准备好工作原型。如果开发顺利进行,潜在的商业部署可能会在 2027 年进行。

SK 海力士将这一努力作为更广泛战略的一部分,直接针对人工智能工作负载定制内存和存储产品,而不是依赖通用设计。该公司还在寻求互补技术,包括与 SanDisk 合作开发的高带宽闪存 (HBF),该技术以类似于 HBM 的方式堆叠 NAND 芯片,进一步模糊内存和存储之间的界限。

市场影响和供应担忧

虽然该技术可以显着降低 AI 推理成本并提高 AI 性能和能源效率,但分析师警告称,成功的 AI SSD 也可能会增加全球 NAND 闪存供应的压力,从而可能推高存储价格 - 就像 DRAM 已经发生的情况一样。 

然而,对于 NVIDIA 和 SK 海力士来说,该项目的目标很明确:消除人工智能基础设施中最大的瓶颈之一。随着人工智能系统变得越来越大、越来越复杂,存储不再仅仅与容量有关,它正在成为人工智能实际工作方式的关键性能组成部分。