华为徐直军:Peerium架构与灵衢总线 让百万颗处理器成为一台计算机
在上海举行的华为全联接(HC)大会期间,华为轮值董事长徐直军与海思首席科学家廖恒,就华为新发布的AI时代的Peerium计算架构和灵衢总线(UnifiedBus),与媒体记者进行了问答交流
今年HC大会期间,华为展出了昇腾950和Atlas 950超节点。徐直军表示,“超节点”如今被广泛提及,但不同厂商实现差异很大,真正的挑战在于让数千、数万颗处理器组成一台 计算机 。华为将这一全新计算架构命名为Peerium,它能让百万颗处理器成为一台 计算机 。目前,华为正部署和测试25.6万张卡规模的Atlas 950 SuperPoD超节点。
廖恒认为,未来两年内,预计中国将出现约6至7个前沿AI实验室,目标都是训练参数规模在10万亿到40万亿之间的基础语言模型。这些数字与超节点的内存容量和规模大致匹配,因此需要如此规模的基础设施来做训练。
华为昇腾 950芯片推出PR和DT两个版本。其中,昇腾950PR芯片已于2026年第一季度正式发布并上市,主要面向推理场景。徐直军透露,该芯片上市量不算大。而 基于950DT的超节点主要用于训练,目前还在测试中,规模供货应该在今年年底或明年初 。
“我们和各家模型厂商做了很多沟通交流,从目前测试结果来看, 950DT 的训练表现非常不错,我相信从明年开始,大量模型的训练会构筑在 950DT超节点上。 未来关键可能不在于我们推动的力度有多大,而在于我们的供货能力有多大。现在能产多少就供多少,我们希望产业链加快扩产,快一点、多产一点。”徐直军称。
徐直军表示, 目前昇腾满足国内市场需求还远远不足,所以没有全面拓展海外市场的计划。 但确有少数国家做了测试和供给,但量非常少。在中国市场要统计 英伟达 的市场占有率很难,但如果从华为能够统计到的数据看,昇腾应该已经超过了 英伟达 。
当前,AI算力推动光 通信 持续向“超高速、高能效、全光化”演进,NPO商业化加速、CPO多技术路线并行。针对路线选择,徐直军表示, 华为很早就达成共识做NPO,没做CPO。 “而且我认为,在相当长时间里,从工程实现、成本、维护、良率等角度讲,NPO都是最佳选择。”
华为不久前发布了基于NPO的Hi-ONE模组,支持7.2T高带宽。徐直军表示,光引擎距离主芯片仅约5厘米,只有这部分还需要 铜 线做电连接,基本可以说是全光的超节点。同时,Hi-ONE模组把光源直接封装进模组内部,实现内置光源。我们预计,未来两到三年内都很难有其他厂商能做出来。这是华为多年来在光电相关领域的积累,才得以实现和量产。
廖恒表示,全光互联最大的障碍是对可靠性的担忧,因为器件会发生故障。目前大多数厂商选择外置光源路线,用单个光源馈送32路信号,功率就必须放大32倍。如此巨大的功率很容易引发许多问题,在耦合接口及其他各个环节都会出问题。我们选择内置光源方案,是出于工程上的务实选择,Hi-ONE正是经过多次权衡后达成的出色折中方案,很快将进入量产阶段。
以下为交流摘要全文:
徐直军: 非常感谢大家来参加媒体沟通会,我有很长一段时间没有跟媒体朋友们沟通了,今天很高兴和大家相聚交流,主要聚焦在我们开创AI时代的计算架构和灵衢协议。
去年HC大会上,我在主题演讲中发布了昇腾芯片及其路标(950、960、970、超节点与集群解决方案),并宣布开放灵衢协议。
今年HC大会上,华为展出了昇腾950和Atlas 950超节点。"超节点"如今人人都在讲,但不同厂商实现的差异很大。去年我曾一再强调,超节点的真正挑战,是让数千、数万颗处理器组成一台 计算机 。
今天展出的基于950芯片的超节点,背后正是我们开创的全新计算架构。它能让百万颗处理器成为一台计算机。我们将这一架构命名为Peerium,它是基于嵌套并行、统一内存寻址、平等互联实现百万级处理器强扩展的计算架构,突破了图灵范式的串行,提出了Nested BSP。
同时,它也突破了冯·诺依曼单机架构,颠覆了长久以来的主从架构。但现有技术无法支撑这一架构的实现,为此我们发明了关键互联技术——灵衢,最终实现让百万级处理器真正成为一台更大的计算机。
灵衢是基于一个开放协议、可无限扩展地联接CPU、NPU、内存、SSD、网卡和交换机的高速总线。有了灵衢,计算、存储、网络得以平等互联,从而彻底颠覆原有的主从架构。
Atlas 950超节点就是华为采用Peerium计算架构的产品,目前25.6万卡规模的集群已经在部署和测试中。
问:廖博论文里面写的25.6万张卡组成一个超节点,这是该技术的上限吗?目前整体市场需求情况如何?
廖恒:25.6万或约20万这个数字,并不是随便定的。
首先,这类大型集群用于训练,硬件基础设施需要支撑基础模型训练,而目前模型参数规模已达到5万亿级别。
未来两年内,预计中国将出现约6至7个前沿AI实验室,目标都是训练参数规模在10万亿到40万亿之间的基础语言模型。这些数字与超节点的内存容量和规模大致匹配,因此需要如此规模的基础设施来做训练。
第二,在中国,大多数 数据中心 都接入了国家电网。考虑到单个区域、单个 数据中心 园区的 电力 输送系统设计,20万是一个相对保守的数字。
正如我所说,大家一定对全球范围内正在发生的AI模型竞赛非常熟悉。在中国,至少有3到4家一线参与者已获得广泛认可,并达到了一线地位。
问:华为接下来将如何推动中国的模型厂商将昇腾系列芯片用于训练?
徐直军:950率先推出的是PR版,主要面向推理,目前上市量不算大。基于950DT的超节点则主要用于训练,目前还在测试中,规模供货应该在今年年底或明年初。我们和各家模型厂商做了很多沟通交流,从目前测试结果来看,950DT的训练表现非常不错,我相信从明年开始,大量模型的训练会构筑在950DT超节点上。未来关键可能不在于我们推动的力度有多大,而在于我们的供货能力有多大。现在能产多少就供多少,我们希望产业链加快扩产,快一点、多产一点。
问:现在美国部分领先模型厂商呼吁放缓AI产业的发展,对此华为怎么看?
徐直军:从中美AI发展的水平和节奏来看,中国的模型基本都是开源的,相对而言,发展到哪一步也是透明的;而美国几家主流模型厂商由于拥有更强大的算力,到底发展到了哪一步,目前可能只有他们自己知道。他们感受到的AI风险,在中国可能感受并不强烈。中国现在还是要加快自己的节奏,等真正能够感受到这种风险时,或许会与美国头部模型厂商有同样的感觉。但我一直认为,AI既要发展又要管控风险,要让AI"向善",而不是"向恶"。
问:950超节点目前有没有在海外扩展的计划?如果有的话,会在哪些市场上开展?国内市场份额情况如何?如何看待芯片自主化率的问题?
徐直军:目前昇腾满足国内市场需求还远远不足,所以没有全面拓展海外市场的计划。但确有少数国家非常需要,我们做了测试和供给,但量非常少。
在中国市场要统计 英伟达 的市场占有率很难,但如果从我们能够统计到的数据看,昇腾应该已经超过了英伟达。
中国推进芯片自主化是一条必然之路。中国有14亿人口,又是一个工业化大国,所有的生活、工作都与芯片相关。中华民族又是一个忧患意识很强的民族,不能一直受制于人,不能今天被说卖一颗给你,明天又说不卖给你。尽管水平差一点、先进性差一点,但解决"有无"问题,不要天天提心吊胆,应该是必然之路。相信无论是中国政府还是中国产业界,包括华为在内,推动芯片的全面自主化、推动 半导体 产业整个链条的全面自主化,肯定是一条必由之路,而且我也相信总有一天会变为现实。
问:华为推出了灵衢互联技术,是基于在计算和 通信 领域的长期积累,其中有多少是来自华为网络部门的贡献?
徐直军:UB不仅仅是华为网络部门的贡献,我们在各种各样的互联协议基础上,最终将其做成一个统一协议。网络领域一般是IP协议,时延都很高。计算互联和传统网络不一样,我们提的是总线,需要低时延、超高速。当时在决策做这个产品时,我们将其放在计算部门而不是传统的网络部门,这样才能真正做出一个高速、低时延、又统一协议的UB出来。
廖恒:如果把UB看作一群人的智慧结晶,它是由计算机架构师孕育,但是由网络技术抚养长大。
问:UB是一个同时兼顾Scale-out和Scale-up的技术。英伟达分别做了NVLink和InfiniBand。为什么华为把Scale-up和Scale-out做成一个技术?这和现在其他方案相比有什么优势?
徐直军:首先,不是他们不做,而是能不能做出来的问题。当前最新的NVL72柜内带宽很宽,达到1.8TB/s,但一出柜就降到0.2TB/s。要把百万台处理器变成一台计算机,柜间如此低的带宽根本不可能。大家都希望柜内、柜间、 数据中心 之间乃至跨区,速度最好都一样,那才能让一个巨大的物理空间成为一台计算机。这正是UB的价值,它基于一个统一协议,做到全程高速互联。因此UB技术路线上做的是总线,就像计算机内部的总线一样,而不只是Link。基于UB,我们的柜间带宽最高可达800GB/s。
去年我们开放UB协议后,最大的下载量其实来自硅谷。英伟达最早的目标可能不是做NV72,而是NV256,但最终它的256变成了72;而华为的910C超节点做到了384,还交付了一千多套。最主要的差别在于,我们在910C超节点上采用了UB,而当时英伟达的NVLink主要局限于柜内,柜间网络速度太慢,不可能扩展太多。
廖恒:我补充一下为何采用单一协议。英伟达及大多数其他厂商至少使用了两种协议,分别应对不同的场景,就像一次旅行往往要同时选择飞机、高铁、 汽车 等多种交通工具,转换过程相当麻烦费时。而在这些超节点中,大量流量需要中转,如果从NVLink切换到InfiniBand,至少涉及微秒级的转换时间,即从一个协议到另一个协议的中转时间,时延很难满足。
UB采用统一协议,将数据包从scale-up网络传输到scale-out网络,可能只需要大约150纳秒。相比而言,与这些协议转换开销至少可节省一个数量级。
问:在采用灵衢总线(UB)的Atlas950中,Scale-up场景下光互联和电互联分别占多少?未来柜内有没有可能全部实现光互联,主要障碍是什么?