众力资讯网

瞄准智能体推理!高通HBC通过硅验证,飞龙AI250带宽暴涨18倍

11月2日,高通宣布其第一代高带宽计算 HBC(High Bandwidth Compute)技术,已经在圣地亚哥实验室完成硅片级硬件验证,近存计算、高速堆叠内存通路全部验证通过。




搭载一代 HBC 的 Dragonfly(飞龙) AI250 推理加速器,单卡有效内存带宽可达 133 TB/s,相比上代采用 LPDDR5X 的 AI200 提升 18 倍,单机架有效带宽最高可达 6.4 PB/s;在能效层面,HBC 方案每瓦带宽超过 HBM4 的五倍,官方目标达到六倍。

133 TB/s 是有效内存带宽,不是物理接口带宽,是结合近存计算、数据局部性之后面向业务的实测有效带宽;性能释放高度依赖模型、调度、软件栈适配。

HBC 的核心思路是将多层 LPDDR 通过 TSV 垂直堆叠在计算芯片上方,把大量访存密集型计算放在封装内部就近完成,降低数据搬运带来的功耗与延迟,专门面向大模型解码、长上下文、向量检索、Agent 智能体推理这类访存密集负载。高通没有走主流 HBM 的路线,试图依托成熟的 LPDDR 供应链,绕开 HBM 的供给与成本瓶颈。


按照路线图,AI250 预计在 2027 年上半年出样;下一代 AI300 将搭载第二代 HBC,目标有效带宽达到 AI200 的 54 倍,面向机架级分布式推理集群。


当前 HBM 供给紧张、价格昂贵、封装产能受限;高通 HBC 选用成熟 LPDDR 体系做 3D 堆叠,试图绕开 HBM 的供给瓶颈,提供一条独立备选方案。高通这套近存堆叠方案,为大规模 AI 推理提供了一条差异化路线,也预示未来算力硬件竞争,将从单纯算力比拼,转向内存带宽、访存能效、供给稳定性的综合博弈。

内存墙出现全新解法,跳出 HBM 单一依赖。HBM、DRAM、NAND 全线紧缺。高通这套方案证明:除 HBM 之外,LPDDR + 近存 3D 堆叠,有机会在推理赛道实现超高带宽,给云厂商多一条备选供应链,缓解 HBM 的产能争夺。
精准踩中 Agent 的算力特征。Agent、多轮对话、长上下文推理,并不是“疯狂做矩阵运算”,而是反复读取权重、向量、状态,访存开销远大于计算,刚好是近存架构最适合的场景;和 Vera CPU、摩尔线程万卡集群、铠侠锁定闪存产能,属于同一条产业主线。
算力硬件路线分化加剧
· 训练卡路线:高算力密度、重度依赖 HBM
· 推理/智能体路线:分化成两条分支:传统 HBM 方案、LPDDR 堆叠近存方案;高通押注后者,主打 TCO、能效、供给稳定
国内推理加速芯片同样面临带宽、成本、存储供给难题;高通 HBC 证明,近存计算、内存堆叠,是一条值得跟进的工程路线;同时也意味着未来加速卡比拼,不再只看 TOPS,有效带宽、访存能效权重持续抬升。
风险与不确定性
· 近存架构的软件栈门槛高,模型适配、算子迁移工作量巨大
· LPDDR 堆叠方案在超大 batch、高并发场景的稳定性、良率还需要大规模落地检验
· 如果后续 HBM 扩产超预期,这条路线的成本优势会被压缩

如果 HBC 路线规模化落地,会拉动高端 LPDDR 需求,进一步放大高速存储的供需压力,和 SK 海力士“内存紧缺持续到 2030”的判断形成共振。