在供给市场方面,由于推理服务器采用大容量SSD产品的趋势不变,供应商已开始加速升级制程。
IT之家 8 月 12 日消息,TrendForce 集邦咨询今日发布报告,由于 AI 需求大幅升温,最近两季 AI 服务器相关客户向供应商进一步要求加单 Enterprise SSD(企业级固态硬盘)。上游供应商为了满足 SSD 在 AI 应用上的供给,加速制程升级,开始规划推出 2YY 产品,预期于 2025 年量产。
报告显示,AI 服务器客户对供应商加单的情况,导致 Enterprise SSD 合约价于 2023 年第四季至 2024 年第三季间的累积涨幅超过 80%。SSD 在 AI 发展中扮演重要角色,除了在 AI 模型训练过程中,SSD 不仅负责储存模型参数,包含不断更新的权重和偏差,另一项重要应用是创建检查点 (check point),以定期保存 AI 模型训练进度,即使训练中断也能从特定点恢复。上述功能都相当依赖高速传输以及写入耐用度,因此客户主要选择使用 4TB / 8TB TLC(三层单元闪存) SSD 产品,以满足严苛的训练过程需求。
报告指出,随着更多生成信息是以影片或相片显示,其数据存储量也相应增加,因此,TLC / QLC(四层单元闪存) 16TB 以上等大容量 SSD 便成为 AI 推理主要采用的产品。
2024 年 AI 服务器 SSD 市场除了 16TB 以上产品需求自第二季大幅上升,随着 NVIDIA H100、H20 和 H200 等系列产品到货,相关客户进一步加大 TLC 4、8TB Enterprise SSD 订单需求。根据 TrendForce 集邦咨询预估,今年 AI 相关 SSD 采购容量将超过 45EB(IT之家注:1EB=1024PB≈104.8 万 TB),未来几年,AI 服务器有望推动 SSD 需求年增率平均超过 60%,而 AI SSD 需求在整个 NAND Flash(闪存)的占比有机会自 2024 年的 5%,上升至 2025 年的 9%。
在供给市场方面,由于推理服务器采用大容量 SSD 产品的趋势不变,供应商已开始加速升级制程,计划从 2025 年第一季起,量产 2YY / 3XX 层制程的产品,并推出 120TB 的 Enterprise SSD 产品。