HBF高带宽闪存标准发布:512GB单堆栈、1.6TB/s带宽,AI推理存储迎来新纪元

2026年8月4日,存储行业迎来一项具有里程碑意义的技术标准发布。SK海力士(SK Hynix)与西部数据旗下的闪迪(SanDisk)联合宣布推出HBF(High Bandwidth Flash,高带宽闪存)的首个行业标准规范,谷歌(Google)与AI芯片设计公司Tenstorrent亦正式加入该联盟。这一事件标志着存储技术谱系中一个全新的层级正式诞生——HBF被明确定位为介于高带宽内存(HBM)与传统固态硬盘(SSD)之间的新型存储介质,旨在解决当前人工智能(AI)推理与大模型部署中日益严峻的存储瓶颈问题。

根据官方披露的技术参数,HBF采用类似于HBM的硅通孔(TSV)封装技术对NAND闪存进行三维堆叠,单堆栈容量可达512GB,基础读取带宽达到1.6TB/s,峰值性能更可触及3.0TB/s。相较于目前广泛应用的HBM产品,HBF在单堆栈容量上实现了一个数量级的跃升,同时在成本结构与静态功耗方面展现出显著优势。闪迪方面已明确表示,计划于2026年下半年推出HBF原型产品,并力争在2027年实现商业化量产。与此同时,三星电子(Samsung Electronics)也被曝出已启动自研HBF技术方案,力图在这场存储变革中占据先机。日本瑞穗证券的分析报告进一步指出,HBF需求的快速增长可能成为推动2027年NAND闪存价格上涨约50%的重要催化剂。

本文将从AI存储瓶颈的技术背景出发,深入解析HBF的工作原理与架构设计,对比其与HBM、SSD的核心差异,解读刚刚发布的行业标准规范,梳理全球产业链参与者的战略布局,并探讨HBF对AI推理架构乃至整个数据中心生态的深远影响。

一、AI时代的存储困境:为什么我们需要HBF?

1.1 大模型推理的"内存墙"难题

自2022年末生成式AI浪潮爆发以来,大型语言模型(LLM)的参数量呈现指数级增长。从GPT-3的1750亿参数到GPT-4的万亿级参数,再到各类开源模型如Llama、Qwen、DeepSeek等向数百亿乃至千亿参数规模演进,模型体量的膨胀对底层计算基础设施提出了前所未有的挑战。在AI训练和推理的完整流程中,存储系统的性能往往成为决定整体效率的关键瓶颈。

当前的数据中心存储架构大致呈现三层结构:最靠近计算单元的是容量有限但带宽极高的HBM(高带宽内存),目前HBM3E的单堆栈容量约为24GB至36GB,带宽约1.2TB/s;中间层是容量较大但带宽和延迟均显著逊于HBM的DDR5内存,单条容量通常为64GB,带宽约50GB/s;最底层则是容量极大但访问延迟较高的SSD存储,单盘容量可达数TB,但顺序读取带宽仅约7GB/s至14GB/s,随机访问延迟更是以微秒乃至毫秒计。

这一架构在AI训练场景中尚可应对,因为训练过程通常将模型参数完整加载至HBM中进行迭代计算。然而,在AI推理尤其是大模型推理场景中,"内存墙"问题变得异常尖锐。以当前主流的大模型推理部署为例,一个参数量为700亿的模型,若采用FP16精度进行推理,仅模型权重就需要约140GB的存储空间。如果采用FP8或INT8量化,存储需求可压缩至约70GB,但这仍然远超单颗GPU所配备的HBM容量(通常为80GB至192GB不等)。

在实际部署中,为了服务更大规模的模型,系统不得不将模型参数分散存储在DDR内存甚至SSD中,通过频繁的数据交换来满足计算需求。这种"换入换出"(offloading)机制虽然扩展了可服务模型的规模,却以牺牲推理速度和能效比为代价。当模型参数无法全部驻留在HBM中时,推理延迟会急剧上升,吞吐量大幅下降,从而严重制约AI服务的规模化部署与商业变现能力。

1.2 HBM的荣光与局限

HBM(High Bandwidth Memory)自2015年首次商用以来,已经成为高性能计算和AI加速器的标配存储方案。其核心技术在于通过硅通孔(TSV)将多颗DRAM裸片垂直堆叠,并通过微凸点(micro-bump)与下方的逻辑基板(base die)互联,最终通过2.5D封装技术与GPU或AI芯片集成在同一硅中介层(interposer)上。这种架构极大地提升了存储接口的位宽,从而实现了远超传统DDR内存的带宽密度。

然而,HBM的成功背后也隐藏着其固有的局限性。首先,DRAM的存储密度提升速度已明显放缓。虽然HBM4有望将单堆栈容量提升至48GB甚至更高,但相较于NAND闪存的存储密度,DRAM仍然存在数量级上的差距。其次,HBM的制造成本居高不下。TSV封装、2.5D硅中介层以及高规格DRAM裸片的叠加,使得HBM成为当前最昂贵的存储方案之一。据行业估算,HBM的成本约占高端AI加速器总物料成本的30%至50%。第三,HBM的静态功耗(即待机功耗)相对较高,对于需要大规模部署的推理服务器而言,这部分功耗在总功耗中占据不可忽视的比重。

因此,业界长期以来一直在探索一种新型存储介质:它既能提供接近HBM的高带宽,又能拥有接近NAND闪存的大容量和低成本,同时保持较低的静态功耗。HBF正是在这一需求驱动下应运而生的技术方案。

1.3 SSD的带宽鸿沟

在存储层级谱系的另一端,基于NAND闪存的SSD在过去十年中实现了容量和成本的持续优化。QLC(四层单元)NAND的普及使得单盘容量轻松达到数TB乃至数十TB,单位比特成本已降至DRAM的约百分之一。然而,SSD的访问延迟和带宽性能与HBM之间存在巨大的鸿沟。

即便是采用PCIe 5.0接口的高端企业级SSD,其顺序读取带宽也仅能达到约14GB/s,与HBM的TB/s级带宽相差近两个数量级。更为关键的是,SSD的访问延迟通常在数十至数百微秒量级,而HBM的访问延迟仅为纳秒级别。这一巨大的延迟差异使得SSD无法直接参与AI推理过程中的实时参数访问,只能作为模型加载和数据持久化的后台存储。

NVMe over Fabrics等网络存储技术虽然可以在一定程度上聚合多盘SSD的带宽,但网络传输延迟和协议开销进一步削弱了其对于低延迟计算场景的适用性。因此,在HBM与SSD之间,存在着一个明显的"带宽鸿沟"和"容量断层",而HBF的技术定位正是填补这一空白。

二、HBF技术原理:用HBM的方式封装NAND

2.1 核心架构:TSV封装与NAND堆叠

HBF的核心创新在于将HBM的封装理念应用于NAND闪存。具体而言,HBF采用与HBM高度相似的TSV(Through-Silicon Via,硅通孔)三维堆叠技术,将多颗NAND闪存裸片垂直集成在一个封装体内。

传统的NAND闪存封装(如TSOP、BGA)通常采用引线键合(wire bonding)或简单的平面布局来连接多颗裸片,I/O引脚数量有限,接口位宽较窄,严重限制了数据传输带宽。而HBF通过TSV技术,在每颗NAND裸片上蚀刻出垂直贯穿的导电通道,使得上下堆叠的裸片可以通过极短的垂直路径进行信号传输。这不仅大幅提升了I/O密度,还显著降低了信号传输延迟和功耗。

在HBF的封装架构中,底部通常设有一颗逻辑基板(logic base die),负责管理数据流、地址映射、错误校验以及接口协议转换等功能。上方的NAND裸片堆栈通过微凸点与逻辑基板互联,逻辑基板则通过类似于HBM的物理接口(如1024-bit或更高位宽的总线)与主机处理器(GPU、AI加速器或CPU)通信。这种架构使得HBF可以复用大量已有的HBM物理层和控制器设计,降低了系统集成的复杂度。

text
+------------------+
|   NAND Die N     |  <- 第N层NAND裸片
|   (512Gb/1Tb)    |
+--------+---------+
|  TSV   |  TSV    |
+--------+---------+
|   NAND Die 2     |  <- 第二层NAND裸片
|   (512Gb/1Tb)    |
+--------+---------+
|  TSV   |  TSV    |
+--------+---------+
|   NAND Die 1     |  <- 第一层NAND裸片
|   (512Gb/1Tb)    |
+--------+---------+
|  TSV   |  TSV    |
+--------+---------+
|   Logic Base Die |  <- 逻辑控制基板
|   (Controller)   |
+--------+---------+
|  Micro-bumps     |  <- 微凸点阵列
+------------------+
|   Interposer     |  <- 硅中介层(可选)
+------------------+
|   GPU/AI Chip    |  <- 主机处理器
+------------------+

2.2 性能指标:容量与带宽的双重突破

根据SK海力士与闪迪发布的HBF标准规范,HBF的首代产品将具备以下核心性能指标:

| 性能指标 | HBF(规范值) | HBM3E(对比) | 企业级SSD(PCIe 5.0,对比) |
|---------|-------------|-------------|------------------------|
| 单堆栈容量 | 最高512GB | 24-36GB | 最高30.72TB(整盘) |
| 读取带宽 | 1.6-3.0 TB/s | ~1.2 TB/s | ~14 GB/s |
| 写入带宽 | 待公布 | ~1.2 TB/s | ~10 GB/s |
| 访问延迟 | 接近DRAM(预估) | ~10 ns | ~50-100 μs |
| 接口位宽 | 4096-bit(预估) | 1024-bit | 64-bit(PCIe x4) |
| 堆叠层数 | 16-32层NAND | 8-12层DRAM | 平面封装 |
| 静态功耗 | 低于HBM | 较高 | 较低 |
| 单位容量成本 | 低于HBM | 高 | 极低 |

上表清晰展示了HBF在存储谱系中的独特定位。在容量维度上,HBF凭借NAND的高密度特性,单堆栈即可达到512GB,是HBM3E的十余倍,足以容纳大多数大语言模型的完整参数。在带宽维度上,HBF的1.6TB/s至3.0TB/s读取带宽虽然略低于HBM3E的理论峰值,但已处于同一数量级,远超SSD的能力范围。这种"高容量+高带宽"的组合,使得HBF成为AI推理场景中理想的模型参数存储介质。

值得注意的是,HBF的延迟性能虽然不及HBM(DRAM的访问延迟通常在10纳秒量级),但相比SSD的微秒级延迟仍有数量级上的优势。通过优化的控制器设计和数据预取机制,HBF有望在实际AI推理工作负载中实现接近HBM的有效性能表现。

2.3 与HBM、SSD的差异化定位

HBF并非要取代HBM或SSD,而是要在两者之间建立一个全新的存储层级。这种层级化的存储架构在计算机系统中有着悠久的成功历史——从寄存器到缓存,从缓存到内存,从内存到磁盘,每一层存储都在容量、速度和成本之间取得了不同的平衡。

在AI推理系统中,未来的理想存储架构可能是这样的:

  • HBM(最高层级):存储推理过程中的激活值(activations)、注意力缓存(KV Cache)以及最需要频繁访问的模型参数子集。HBM提供最低的访问延迟和最高的随机访问性能,是计算单元最亲密的"数据伙伴"。

  • HBF(中间层级):存储完整的模型权重、大规模嵌入表(embedding tables)以及需要快速加载的参考数据。HBF以更低的成本提供数倍于HBM的容量,同时保持足够高的带宽以满足推理流水线的数据吞吐需求。

  • SSD(最底层级):存储海量的训练数据集、日志、检查点(checkpoint)以及不常访问的冷数据。SSD以最低的单位成本提供最大的存储容量,是数据持久化和批量加载的主力。
  • 这种三层架构的协同工作,有望从根本上解决当前AI推理面临的"容量-带宽-成本"不可能三角问题。

    2.4 技术挑战与解决方案

    将NAND闪存以HBM的方式封装并非易事,HBF在实现过程中面临多项技术挑战。

    热管理挑战:NAND闪存在读写操作中的功耗密度虽低于DRAM,但当数十层裸片紧密堆叠在一个封装体内时,热量积聚问题不容忽视。HBF标准规范中必须包含详细的温度管理要求,包括最大工作温度、热阻规格以及配套的散热方案建议。SK海力士与闪迪在发布会上强调,HBF封装将集成温度传感器阵列,并支持动态热管理(DTM)功能,可根据工作负载和温度状态调整性能。

    信号完整性挑战:随着堆叠层数的增加和I/O速度的提升,高速信号在TSV和微凸点中的传输面临日益严峻的信号完整性问题。串扰、反射和时钟抖动都可能影响数据传输的可靠性。HBF标准中采用了与HBM类似的差分信号传输、片上端接(on-die termination)和自适应均衡技术来应对这些挑战。

    错误管理与耐久性:NAND闪存固有的比特错误率高于DRAM,需要强大的ECC(错误校验码)和坏块管理机制。HBF的逻辑基板中集成了高性能的LDPC(低密度奇偶校验)编解码器,可对读取数据进行实时纠错。同时,由于AI推理工作负载以读操作为主导,NAND闪存的写入耐久性(endurance)问题在HBF场景中相对缓和,这也是HBF适合推理场景而非训练场景的重要原因之一。

    接口协议兼容性:为了降低生态系统的采用门槛,HBF在物理层和电气特性上尽可能与HBM保持兼容,使得现有的AI芯片设计可以较低成本地适配HBF接口。同时,HBF引入了新的命令集和地址映射机制,以适配NAND闪存的页面读写特性。

    三、标准规范解读:HBF标准的架构与生态

    3.1 标准发布的背景与意义

    2026年8月4日发布的HBF首个行业标准规范,由SK海力士与闪迪联合主导制定。这一标准的推出具有多重战略意义。

    首先,标准化是任何新技术实现大规模商业化的前提。在HBF标准发布之前,虽然业界已有多家企业探索高带宽NAND存储技术,但各自采用的技术路线和接口定义互不兼容,导致生态系统碎片化,下游客户望而却步。通过联合制定开放标准,SK海力士与闪迪意在统一技术路线,降低产业链上下游的适配成本,加速HBF的市场渗透。

    其次,谷歌与Tenstorrent的加入显著增强了HBF标准的技术权威性和市场号召力。谷歌作为全球领先的超大规模数据中心运营商和AI基础设施投资巨头,其对HBF的支持意味着该技术已在实际应用场景中得到验证和认可。Tenstorrent作为AI芯片领域的新锐力量,其参与则表明HBF已获得AI硬件设计者的积极拥抱。一个存储标准的成功不仅取决于存储原厂的支持,更取决于计算芯片厂商和终端用户的广泛采纳。

    3.2 标准规范的核心内容

    虽然标准的完整技术文档尚未完全公开,但根据发布会披露的信息和行业分析,HBF标准规范涵盖以下核心模块:

    物理层规范(Physical Layer):定义了HBF封装的机械尺寸、引脚布局、电气特性和信号完整性要求。标准支持多种堆叠高度配置(如8层、16层、32层NAND堆叠),以适应不同的容量和散热需求。

    接口协议层(Interface Protocol):定义了主机处理器与HBF之间的通信协议,包括命令集、地址映射、数据传输模式和时序参数。协议设计兼顾了HBM的流式传输优势和NAND的页面访问特性。

    可靠性规范(Reliability):规定了比特错误率上限、数据保持时间、写入耐久性指标以及相应的ECC要求。针对AI推理以读为主的负载特征,标准对读取性能和读取干扰(read disturb)管理提出了专门要求。

    热管理规范(Thermal Management):明确了最大工作温度、热阻规格、温度监测机制和热节流策略。标准推荐在HBF封装顶部集成散热片或采用液冷接触方案。

    测试与验证规范(Testing and Validation):定义了HBF芯片和模组的生产测试流程、品质分级标准和系统级验证方法。

    3.3 联盟治理与知识产权

    HBF标准的推广和维护将由一个开放的联盟负责管理。SK海力士与闪迪作为创始成员,将在标准制定和技术路线规划中发挥主导作用。谷歌和Tenstorrent作为首批联盟成员,将参与应用场景定义和系统级验证工作。联盟欢迎更多存储原厂、芯片设计公司和终端用户加入,共同推动HBF生态的繁荣。

    在知识产权方面,联盟采用合理且非歧视性(RAND)的专利授权原则,确保所有成员可以在公平条件下使用标准所涉及的必要专利技术。这一机制对于吸引三星、美光等潜在竞争者加入至关重要——如果专利壁垒过高,其他厂商可能会选择发展自有标准,导致市场再次分裂。

    四、产业链格局:群雄逐鹿HBF赛道

    4.1 SK海力士:HBM霸主向HBF延伸

    SK海力士是当前全球HBM市场的绝对领导者,占据超过50%的市场份额。在HBM3E和即将到来的HBM4世代中,SK海力士凭借先进的MR-MUF(Mass Reflow Molded Underfill)封装技术和与英伟达(NVIDIA)等AI芯片巨头的深度绑定,建立了强大的竞争壁垒。

    对于SK海力士而言,参与主导HBF标准既是防御性策略,也是进攻性布局。从防御角度看,HBF若成功商业化,可能在一定程度上蚕食HBM在推理场景中的需求,SK海力士需要确保自己在新技术浪潮中不被边缘化。从进攻角度看,SK海力士可以将其在HBM封装领域积累的TSV技术、2.5D封装经验和客户渠道,快速复制到HBF业务中,开辟新的增长曲线。

    SK海力士在NAND闪存领域同样位居全球前列,其176层、238层乃至更高层数的3D NAND技术为HBF的高容量堆叠提供了坚实的裸片基础。通过在HBF上复用现有NAND产能,SK海力士有望在保持资本开支可控的前提下,快速推进HBF产品化进程。

    4.2 闪迪(西部数据):从消费级到数据中心级的战略转型

    闪迪作为西部数据(Western Digital)旗下的闪存品牌,长期以来以消费级存储产品(SD卡、U盘、消费级SSD)闻名。然而,近年来闪迪积极向企业级和数据中心市场拓展,HBF正是其这一战略转型的关键落子。

    对于闪迪而言,HBF是一个重塑品牌形象、切入高端市场的绝佳机会。在HBF架构中,闪迪的BiCS(Bit Cost Scaling)3D NAND技术将发挥核心作用。闪迪已量产200层以上的3D NAND,并规划在未来数年内突破300层乃至400层,存储密度的持续提升将直接转化为HBF单堆栈容量的增长。

    闪迪计划2026年下半年推出HBF原型产品,2027年实现商业化量产,这一时间表显示出其对HBF市场前景的坚定信心。值得注意的是,闪迪在企业级存储解决方案领域的渠道和品牌认知度仍在建设中,通过与SK海力士的合作以及谷歌等终端用户的背书,闪迪有望加速其在数据中心市场的渗透。

    4.3 三星电子:自有路线的挑战者

    三星电子是全球唯一在DRAM、NAND闪存和晶圆代工领域均位居前列的存储巨头。作为HBM市场的重要参与者(市场份额仅次于SK海力士)和全球最大的NAND闪存供应商,三星对HBF技术的战略态度尤为引人注目。

    据行业消息,三星已启动自研HBF方案,但尚未决定是否加入SK海力士-闪迪主导的HBF联盟。这一决策背后涉及复杂的技术路线选择和商业利益权衡。一方面,三星拥有足够的技术实力和垂直整合能力独立开发HBF产品;另一方面,若市场最终走向标准化,独立于联盟之外可能导致生态兼容性问题。

    三星的HBM产品采用其独特的TC-NCF(Thermal Compression Non-Conductive Film)封装技术,与SK海力士的MR-MUF技术路线不同。这一技术差异可能延续至HBF领域,使得三星HBF产品在物理接口和散热特性上呈现出独特优势。未来,三星是否选择加入现有联盟或推动自有标准,将成为影响HBF产业格局的关键变量。

    4.4 美光科技:观望中的潜在玩家

    美光科技(Micron Technology)是全球第三大存储原厂,在DRAM和NAND领域均保持强劲竞争力。在HBM市场,美光是英伟达H200等产品的HBM3E供应商,技术实力获得头部客户认可。

    截至目前,美光尚未公开宣布其HBF战略。这一观望态度可能出于多方面考虑:首先,美光正在集中资源推进HBM4的研发和量产,以确保在AI训练市场的份额;其次,美光需要评估HBF市场的规模和发展速度,以决定是否值得投入大量研发资源;第三,美光可能正在与联盟成员进行幕后谈判,以更有利的条件加入标准体系。

    考虑到美光在企业级SSD和数据中心内存市场的深厚积累,以及其与AMD、英特尔等计算芯片厂商的长期合作关系,美光的入局将为HBF生态增添重要砝码。

    4.5 长江存储与其他中国厂商的机遇

    长江存储(YMTC)作为中国领先的3D NAND闪存制造商,在NAND技术领域已取得显著突破。其Xtacking架构通过在独立的晶圆上制造存储阵列和外围电路,再将两者键合,实现了更高的I/O速度和存储密度。这一架构特性与HBF对高I/O带宽的需求高度契合。

    虽然长江存储目前仍面临国际供应链和地缘政治方面的挑战,但从技术角度看,Xtacking架构为开发具有中国特色的HBF方案提供了独特优势。如果HBF标准能够以开放和包容的方式发展,中国厂商有望在这一新兴领域实现与国际领先水平的并跑甚至领跑。

    此外,中国的AI芯片设计公司(如华为昇腾、寒武纪、海光信息等)在大模型推理领域有着旺盛的算力需求。HBF技术的成熟将为中国AI芯片生态提供新的存储解决方案选择,有助于降低对进口HBM的依赖。

    五、HBF对AI推理架构的深远影响

    5.1 大模型推理的存储优化新范式

    HBF的出现将从根本上改变大模型推理系统的存储优化策略。在当前以HBM为中心的架构中,工程师需要精心设计模型并行(model parallelism)和张量并行(tensor parallelism)策略,将模型参数分割到多颗GPU的HBM中,并通过NVLink或InfiniBand进行高频的跨芯片通信。这种架构复杂度高、扩展效率受限,且对通信带宽极度敏感。

    当HBF成为可用的存储层级后,AI推理架构将呈现出全新的设计空间:

    单节点大模型推理:借助512GB甚至更高容量的HBF,单颗或双颗AI加速器即可容纳完整的千亿参数模型,无需复杂的模型切分和跨节点通信。这将显著降低推理系统的复杂度和延迟,提升单节点性能上限。

    HBF-HBM协同缓存:系统可以采用HBF作为模型参数的主存储,将当前计算所需的活跃参数动态加载到HBM中作为缓存。这种分层缓存策略类似于CPU中的L3缓存和内存的协作关系,能够在容量和速度之间取得更优的平衡。

    批量推理吞吐量提升:在大批量推理(batch inference)场景中,HBF的高容量允许系统同时维护更多并发的推理请求和KV Cache,减少因内存不足导致的请求排队和批处理碎片化,从而提升整体吞吐量。

    5.2 对AI芯片设计的影响

    HBF的引入将对AI加速器的芯片架构设计产生直接影响。首先,AI芯片的存储控制器需要增加对HBF接口的支持,包括物理层(PHY)和协议层的适配。对于已经在设计中集成HBM控制器的芯片(如英伟达GPU、谷歌TPU),复用部分HBM控制器逻辑来支持HBF是一种经济高效的路径。

    其次,HBF的存在可能改变AI芯片的内存层次结构设计。芯片设计者需要在HBM和HBF之间设计高效的数据迁移机制,包括DMA引擎、预取逻辑和一致性管理单元。这要求芯片具备更智能的存储管理能力和更宽的总线带宽。

    第三,HBF的高容量特性可能催生新的计算范式。例如,部分推理计算可以直接在HBF的逻辑基板上进行(processing-in-storage),利用HBF控制器中集成的轻量级计算单元执行简单的数据过滤和预处理操作,减少数据搬移开销。虽然首代HBF标准可能尚未集成此类功能,但未来迭代版本中值得期待。

    5.3 数据中心存储架构的演进

    从数据中心整体架构的视角看,HBF的普及将推动存储架构从当前的"内存-SSD"两极格局向"HBM-HBF-SSD"三级格局演进。这一演进将带来多方面的系统性影响:

    机架级架构优化:HBF模组可以直接安装在AI加速器的基板上或采用与GPU相同的2.5D封装方式,使得存储资源与计算资源的物理距离大幅缩短。这减少了对传统内存总线和网络存储的依赖,简化了机架内的互连拓扑。

    功耗与散热设计:HBF的静态功耗低于HBM,这意味着在大规模部署时,存储子系统的待机能耗将有所下降。然而,HBF的高带宽读写操作也会产生可观的热量,数据中心需要在机架和机房层面优化散热设计,可能需要更广泛地采用液冷技术。

    成本结构重塑:HBF的单位容量成本介于HBM和SSD之间,其规模化应用将改变AI基础设施的总体拥有成本(TCO)结构。对于推理为主的AI云服务商而言,HBF有望以远低于扩充HBM容量的成本,实现推理服务能力的线性扩展。

    5.4 软件生态与编程模型的适配

    硬件架构的变革需要软件生态的协同演进。HBF作为一种新型存储层级,需要操作系统、编译器和AI框架的支持才能充分发挥其性能潜力。

    在操作系统层面,Linux内核需要扩展其NUMA(非均匀内存访问)和内存分层管理机制,将HBF识别为独立的存储节点,并提供相应的内存分配、页面迁移和性能监控接口。

    在AI框架层面,PyTorch、TensorFlow、JAX等主流框架需要扩展其张量存储后端,支持将模型权重显式地分配在HBF上,并管理HBF与HBM之间的数据传输。类似CUDA Unified Memory的自动页面迁移机制可以在HBF场景中得到进一步发展和优化。

    在编译器层面,AI编译器(如XLA、TVM)需要在代码生成和调度优化中考虑HBF的带宽和延迟特性,自动生成高效的数据预取和流水线编排策略,以最大化计算单元的利用率。

    六、市场展望与投资影响

    6.1 需求预测与应用场景

    HBF的市场需求将在未来几年内快速增长,其主要驱动场景包括:

    大语言模型推理服务:这是HBF最直接和最大的目标市场。随着ChatGPT、Claude、Gemini等大模型API服务的普及,以及企业私有化部署需求的爆发,高效、低成本的推理基础设施成为刚需。HBF的高容量和高带宽特性使其成为大模型推理服务器的理想存储配置。

    推荐系统与搜索排序:超大规模推荐系统(如短视频推荐、电商搜索排序)依赖海量的嵌入表(embedding tables),其容量需求动辄数TB,但访问模式具有一定的局部性和可预测性。HBF的大容量和高带宽可以显著加速嵌入查表操作,提升推荐系统的响应速度。

    图神经网络(GNN)与知识图谱:图数据的规模通常远超常规深度学习模型,且图遍历操作具有高度的不规则内存访问特征。HBF的大容量可以容纳更大的图子集,高带宽可以加速邻域采样和特征聚合计算。

    AI推理即服务(Inference-as-a-Service):随着边缘AI和多模态AI的发展,对低延迟、高吞吐推理服务的需求将持续增长。HBF使得单机即可服务更大规模的模型,降低了对分布式推理的依赖,有利于提升服务质量。

    据行业分析机构预测,到2028年,HBF市场规模有望达到数十亿美元级别,年复合增长率(CAGR)超过100%。虽然这一数字在整体存储市场中占比仍有限,但HBF对于AI基础设施价值链的战略重要性远超其直接市场规模。

    6.2 NAND价格与供应链影响

    日本瑞穗证券在其研究报告中指出,HBF需求的快速增长可能成为推动2027年NAND闪存价格上涨约50%的重要催化剂。这一判断基于以下逻辑链条:

    首先,HBF采用多层NAND裸片堆叠,单颗HBF模组消耗的NAND晶圆面积远超同等容量的SSD产品。例如,一颗512GB的HBF若采用32层堆叠,每层需要约16GB的NAND裸片,总计消耗相当于约512GB的裸片面积,但由于封装良率和冗余设计,实际晶圆消耗可能更高。

    其次,HBF目标客户是利润率较高的数据中心和AI基础设施市场,相较于价格敏感的消费级SSD市场,HBF客户对NAND价格的承受能力更强。这意味着HBF需求的增长将优先吸收高端NAND产能,带动整体NAND价格中枢上移。

    第三,若HBF在2027年进入规模化量产阶段,其对NAND晶圆的消耗量将达到每月数万片乃至数十万片的量级,在NAND行业资本开支仍相对克制的背景下,这可能造成阶段性的供需紧张。

    然而,NAND价格的实际走势还将受到多重因素影响,包括:3D NAND层数提升带来的供应效率改善、中国厂商产能扩张、消费级和移动市场需求复苏情况,以及潜在的经济衰退风险。50%的价格涨幅预测应被视为一种可能性情景,而非确定性结论。

    6.3 对存储原厂股价的潜在影响

    HBF标准的发布和商业化进程将对存储原厂的股价和估值产生差异化影响:

    SK海力士:作为HBF联盟的双主导者之一和HBM市场的领导者,SK海力士被视为HBF浪潮中最直接的受益者。若HBF成功商业化,SK海力士有望在HBM之外开辟第二增长曲线,其估值逻辑将从"HBM周期股"向"AI存储平台型公司"演进。不过,投资者也需关注HBF对HBM需求的潜在替代效应。

    西部数据/闪迪:闪迪在HBF中的角色为其在资本市场上的估值提供了重估契机。长期以来,西部数据的估值低于纯DRAM厂商,部分原因是NAND业务的利润率较低且竞争激烈。HBF的高附加值属性有望提升其NAND业务的盈利预期。

    三星电子:三星在HBF领域的路线选择(加入联盟vs.独立发展)将对其估值产生重要影响。若三星选择加入现有联盟并快速推出产品,市场可能给予其"AI存储全覆盖"的溢价估值;若其独立发展且标准之争拖延,则可能面临生态边缘化的风险。

    美光科技:美光的HBF战略尚未明朗,这是其投资叙事中的一个不确定性因素。若美光最终加入HBF联盟并发挥重要作用,其股价可能迎来补涨行情。

    6.4 对AI产业链的辐射效应

    HBF的影响将沿着AI产业链向上游和下游传导。

    上游设备与材料:HBF的TSV封装和2.5D集成需要先进的封装设备(如热压键合机、TSV刻蚀设备)、高密度基板材料和新型散热材料。这对ASM Pacific、Besi、揖斐电(IBIDEN)、欣兴电子等封测设备和基板供应商构成利好。

    中游AI芯片:英伟达、AMD、英特尔、谷歌(TPU)、Tenstorrent等AI芯片厂商将受益于HBF带来的存储容量扩展。对于英伟达而言,HBF的普及可能降低其GPU对超大容量HBM的依赖,缓解HBM供应紧张对其GPU出货的制约。对于谷歌TPU和Tenstorrent等自研芯片厂商,HBF提供了更灵活的存储配置选择。

    下游云服务商:亚马逊AWS、微软Azure、谷歌云、阿里云等云服务商是HBF的最终采购方和使用者。HBF有望降低其AI推理基础设施的TCO,提升推理服务的盈利能力。同时,HBF也使得云服务商能够以更低的边际成本提供更大模型的API服务,加速AI应用的商业化落地。

    七、技术前瞻:HBF的演进路线图

    7.1 容量与带宽的持续攀升

    与所有存储技术一样,HBF将在代际演进中持续提升性能指标。在容量维度,随着3D NAND层数从当前的200+层向300层、400层乃至更高迈进,HBF的单堆栈容量有望在数年内突破1TB。此外,通过增加每个存储单元的比特数(从TLC到QLC),在相同的物理层数下可以进一步提升存储密度。当然,QLC在读取延迟和可靠性方面的 trade-off 需要在HBF场景中进行仔细权衡。

    在带宽维度,首代HBF的1.6-3.0 TB/s已经是一个很高的起点。未来的带宽提升将来自多个维度:更高的接口频率、更宽的数据总线(如从4096-bit扩展至8192-bit)、以及更先进的信号编码方案(如PAM4替代NRZ)。结合计算芯片I/O能力的同步提升,HBF的下一代产品有望实现5TB/s乃至更高的读取带宽。

    7.2 与CXL的协同与融合

    CXL(Compute Express Link)作为新一代互联协议,正在重塑数据中心内部的设备连接方式。CXL 3.0及后续版本支持内存扩展(CXL.mem)和缓存一致性(CXL.cache)功能,使得处理器可以通过PCIe物理层访问远程内存资源。

    HBF与CXL的结合将产生有趣的协同效应。一方面,CXL可以作为HBF模组之间或HBF与主机之间互联的标准化协议,简化系统集成并提升扩展灵活性。另一方面,HBF可以作为CXL内存池(memory pool)的高密度组成部分,通过CXL交换机构建大规模的共享存储资源池。未来,我们可能会看到同时支持HBM直连、HBF扩展和CXL互联的混合存储架构。

    7.3 存算一体(Processing-in-Memory)的潜力

    存算一体是当前存储技术领域的前沿研究方向,其核心思想是在存储阵列内部或紧邻存储的位置执行计算操作,减少数据搬移带来的能耗和延迟开销。HBF的架构为存算一体提供了独特的实现平台。

    具体而言,HBF的逻辑基板可以集成轻量级的计算单元(如向量运算加速器、数据压缩/解压引擎),在数据从NAND阵列读取后直接进行预处理,再将结果传输至主机处理器。对于AI推理中的常见操作(如权重解压、量化反量化、稀疏数据过滤),这种近存储计算(near-storage computing)模式可以显著降低系统总线压力和整体功耗。

    虽然首代HBF标准可能以存储功能为主,但随着技术成熟,后续代际产品有望逐步集成更多计算功能,向"智能存储"(smart storage)的方向演进。

    7.4 竞争技术的潜在挑战

    HBF并非填补HBM与SSD之间空白的唯一技术方案。在HBF推进商业化的同时,其他竞争性技术也在不断发展:

    CXL内存扩展:通过CXL接口连接大容量DRAM模组,可以在一定程度上扩展计算节点的内存容量。虽然CXL的延迟和带宽不及HBF直连,但其标准化的生态和灵活的拓扑结构具有独特优势。

    存储级内存(SCM):以英特尔Optane(已停产)和各类新型ReRAM、MRAM为代表的存储级内存技术,在延迟和耐久性方面介于DRAM和NAND之间。若有新的SCM技术实现商业突破,可能成为HBF的替代方案。

    更先进的HBM:HBM4及后续代际产品可能将单堆栈容量进一步提升至48GB、64GB乃至更高。虽然DRAM的密度提升速度慢于NAND,但持续的技术进步可能延缓HBF的必要性。

    模型压缩与量化:AI算法层面的优化(如更激进的量化、剪枝、蒸馏)可以在不增加硬件存储容量的情况下服务更大模型,这从需求侧对HBF的市场空间构成一定约束。

    综合来看,HBF在技术路线竞争中具备显著的容量优势和成本优势,但其最终市场份额将取决于技术成熟度、生态建设速度以及竞争技术的相对进展。

    八、结语:存储变革的序章

    HBF首个行业标准规范的发布,是存储技术发展史上的一个重要节点。它不仅仅是一项新的存储产品规格,更代表着整个行业对AI时代存储需求演变的深刻洞察和主动回应。在HBM的带宽优势与SSD的容量优势之间,HBF以创新的封装架构和技术融合,开辟了一片此前近乎空白的战略要地。

    对于SK海力士和闪迪而言,HBF是巩固其在AI存储领域领导地位的关键棋子;对于谷歌和Tenstorrent等AI芯片与系统厂商而言,HBF是突破推理存储瓶颈的重要工具;对于整个AI产业而言,HBF有望加速大模型从实验室走向规模化商业服务的进程,降低AI推理的基础设施成本门槛。

    当然,HBF的商业化之路仍面临诸多挑战:技术成熟度需要经过大规模量产的考验,生态系统需要更多芯片厂商和软件框架的支持,三星等竞争对手的策略选择将影响标准统一进程,而NAND价格波动和宏观经济不确定性也为市场前景增添了变量。

    2026年下半年,我们将迎来HBF原型产品的首次亮相;2027年,HBF能否如期实现商业化量产,将是检验这一技术能否从标准走向市场的关键试金石。无论前路如何,HBF的登场已经为存储行业的未来演进写下了浓墨重彩的一笔。在AI持续重塑世界的大背景下,存储技术的每一次突破,都在为智能时代的算力基础设施奠定更坚实的基石。

    作为技术从业者、投资者或AI生态的参与者,密切关注HBF的发展动态,深入理解其对产业链各环节的影响,将有助于我们更好地把握这个充满变革与机遇的时代脉搏。存储的变革,才刚刚开始。

    💬 评论区 (0)

    暂无评论,快来抢沙发吧!