SK海力士与闪迪今日联合宣布，正式发布高带宽闪存的首套行业通用标准规范。这是双方组建HBF联盟6个月后的重要成果，旨在满足人工智能推理时代对存储技术的迫切需求。
该标准由开放计算项目（OCP）旗下的HBF技术工作组主导开发，SK海力士与闪迪作为核心贡献者深度参与。在推进标准化的过程中，谷歌与Tenstorrent也相继加入联盟，在技术验证及标准制定环节发挥了关键作用。
此次发布的规范为AI推理系统与加速器的设计者提供了一套通用的技术框架。它涵盖了系统接口、电气规范以及多项技术指南，包括基础性能预期、xPU-HBF主机接口、HBF裸片堆叠的可靠性与封装指导，以及读写操作的软件用户指南等。这有助于开发者在需要更大容量近计算存储和更高带宽的场景中，引入HBF技术，从而有效提升系统性能与能效，并降低整体成本。
随着大模型和人工智能的飞速发展，现代AI推理系统迫切需要将高带宽存储器部署在计算核心附近，以应对日益增长的数据吞吐需求。HBF作为下一代存储技术，定位介于高带宽内存（HBM）与固态硬盘之间。它通过类似HBM的封装互连方式堆叠多个NAND闪存芯片，在提供接近HBM的高速数据传输能力的同时，依托NAND技术实现了存储容量的指数级提升。
闪迪首席技术官Alper Ilkbahar指出，AI推理正在催生全新的存储需求，而HBF技术正是为此而生。这项规范为系统设计者开辟了一条切实可行的路径，使得高容量、高带宽的存储能够更紧密地靠近计算单元，同时支持更灵活的架构设计。这不仅是HBF生态系统发展的重要里程碑，也是下一代AI系统提升大规模Token经济效益的关键基础。
HBF技术的优势十分突出。在成本与容量方面，首代HBF堆栈单堆即可实现高达512GB的容量，比HBM提升一个数量级，显著降低了单位容量的系统成本。在性能与能效方面，首代产品目标参数包括16层堆叠、512GB容量以及1.6TB/s的读取带宽，其读取性能可媲美HBM。此外，由于无需像DRAM那样持续刷新，HBF的静态功耗明显更低。
不过，HBF的写入与擦除寿命相对较短，更适合处理读多写少、可预取的数据场景，例如共享KV Cache中的历史块、权重或参数分片等。而那些对时延最敏感、更新最频繁的数据，仍应优先由HBM来承担。
国信证券分析认为，在大模型推理及智能体全面爆发的背景下，HBF能够完美承载数百GB的基础模型权重、海量向量数据库以及不断膨胀的多模态上下文。这将极大缓解长文本处理和大并发场景下HBM的容量溢出问题，避免因频繁向外部存储调用数据而导致的I/O阻塞。