官方网站-首页官方网站-首页

华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联

2025-05-26 09:31:34 396

【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。

华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联

  2025 年 5 月 23 日,在鲲鹏昇腾开发者大会 2025 —— 昇腾 AI 开发者峰会上,华为推出了昇腾超节点技术,成功实现业界最大规模的 384 卡高速总线互联

  当前,大模型发展呈现参数与效率交替演进的态势:一方面,Scaling Law 不断推动模型能力突破极限;另一方面,以 DeepSeek 为代表的创新架构与工程技术,正加速模型能力在千行万业的落地应用。在此背景下,MoE 成为主流模型结构,其复杂的混合并行策略带来巨大挑战,TP、SP、EP 单次通信量高达 GB 级且难以掩盖。随着并行规模持续扩大,传统服务器跨机带宽已成为训练的核心阻碍,亟需计算架构的创新升级以适配未来模型发展。

  传统服务器依赖以太网络实现跨机互联,通信带宽较低。实践表明,当 TP、SP 或 EP 等分布式策略的混合并行域超过 8 卡时,跨机通信带宽便成为性能瓶颈,导致系统性能大幅下降。

  据介绍,华为昇腾超节点打破了以 CPU 为中心的冯诺依曼架构,创新提出了对等计算架构,凭借高速总线互联技术实现重大突破,把总线从服务器内部,扩展到整机柜、甚至跨机柜。在超节点范围内,用高速总线互联替代传统以太,通信带宽提升了 15 倍;单跳通信时延也从 2 微秒做到 200 纳秒,降低了 10 倍,使集群如同一台计算机般协同工作,有效突破系统性能限制。

  从华为中国官方获悉,此次推出的昇腾 384 超节点,由 12 个计算柜和 4 个总线柜构成,是目前业界规模最大的超节点。依托华为在 ICT 领域深厚的技术与工程经验,通过最佳负载均衡组网方案,该超节点可进一步扩展为包含数万卡的 Atlas 900 SuperCluster 超节点集群,为(wèi)未(wèi)来(lái)更(gèng)大(dà)规(guī)模(mó)的(de)模(mó)型(xíng)演(yǎn)进(jìn)提(tí)供(gōng)支(zhī)撑(chēng)。

  性(xìng)能(néng)测(cè)试(shì)数(shù)据(jù)显(xiǎn)示(shì),在(zài)昇(shēng)腾(téng)超(chāo)节(jié)点(diǎn)集群(qún)上(shàng),LLaMA 3 等(děng)千(qiān)亿(yì)稠(chóu)密(mì)模(mó)型(xíng)性(xìng)能(néng)相(xiāng)比(bǐ)传(chuán)统(tǒng)集群(qún)提(tí)升(shēng) 2.5 倍(bèi)以(yǐ)上(shàng);在(zài)通(tōng)信(xìn)需(xū)求(qiú)更(gèng)高(gāo)的(de) Qwen、DeepSeek 等(děng)多(duō)模(mó)态(tài)、MoE 模型上,性能提升可达 3 倍以上,较业界其他集群高出 1.2 倍,在行业中处于领先地位。