华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联
- 分类:行业动态
- 作者:
- 来源:
- 发布时间:2025-05-26 09:31:16
- 访问量:396
【概要描述】【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。
华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联
【概要描述】【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。
- 分类:行业动态
- 作者:
- 来源:
- 发布时间:2025-05-26 09:31:16
- 访问量:396
【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。

2025 年 5 月 23 日,在鲲鹏昇腾开发者大会 2025 —— 昇腾 AI 开发者峰会上,华为推出了昇腾超节点技术,成功实现业界最大规模的 384 卡高速总线互联。
当前,大模型发展呈现参数与效率交替演进的态势:一方面,Scaling Law 不断推动模型能力突破极限;另一方面,以 DeepSeek 为代表的创新架构与工程技术,正加速模型能力在千行万业的落地应用。在此背景下,MoE 成为主流模型结构,其复杂的混合并行策略带来巨大挑战,TP、SP、EP 单次通信量高达 GB 级且难以掩盖。随着并行规模持续扩大,传统服务器跨机带宽已成为训练的核心阻碍,亟需计算架构的创新升级以适配未来模型发展。
传统服务器依赖以太网络实现跨机互联,通信带宽较低。实践表明,当 TP、SP 或 EP 等分布式策略的混合并行域超过 8 卡时,跨机通信带宽便成为性能瓶颈,导致系统性能大幅下降。
据介绍,华为昇腾超节点打破了以 CPU 为中心的冯诺依曼架构,创新提出了对等计算(suàn)架(jià)构(gòu),凭(píng)借(jiè)高(gāo)速(sù)总(zǒng)线(xiàn)互(hù)联(lián)技(jì)术(shù)实(shí)现(xiàn)重(zhòng)大(dà)突(tū)破(pò),把(bǎ)总(zǒng)线(xiàn)从(cóng)服(fú)务(wu)器(qì)内(nèi)部(bù),扩(kuò)展(zhǎn)到(dào)整(zhěng)机(jī)柜(guì)、甚(shén)至(zhì)跨(kuà)机(jī)柜(guì)。在(zài)超(chāo)节(jié)点(diǎn)范(fàn)围(wéi)内(nèi),用(yòng)高(gāo)速(sù)总(zǒng)线(xiàn)互(hù)联(lián)替(tì)代传统以太,通信带宽提升了 15 倍;单跳通信时延也从 2 微秒做到 200 纳秒,降低了 10 倍,使集群如同一台计算机般协同工作,有效突破系统性能限制。
从华为中国官方获悉,此次推出的昇腾 384 超节点,由 12 个计算柜和 4 个总线柜构成,是目前业界规模最大的超节点。依托华为在 ICT 领域深厚的技术与工程经验,通过最佳负载均衡组网方案,该超节点可进一步扩展为包含数万卡的 Atlas 900 SuperCluster 超节点集群,为未来更大规模的模型演进提供支撑。
性能测试数据显示,在昇腾超节点集群上,LLaMA 3 等千亿稠密模型性能相比传统集群提升 2.5 倍以上;在通信需求更高的 Qwen、DeepSeek 等多模态、MoE 模型上,性能提升可达 3 倍以上,较业界其他集群高出 1.2 倍,在行业中处于领先地位。
扫二维码用手机看
官方网站-首页