浪潮信息发布"元脑SD200"超节点,面向万亿参数大模型创新设计

  发布时间:2025-08-21 06:45:19   作者:玩站小弟   我要评论
北京2025年8月8日 /美通社/ -- 8月7日,浪潮信息发布面向万亿参数大模型的超节点AI服务器"元脑SD200"。该产品基于浪潮信息创新研发的多主机低延迟内存语义通信架构,以 。

北京2025年8月8日 /美通社/ -- 8月7日,浪潮浪潮信息发布面向万亿参数大模型的信息向万超节点AI服务器"元脑SD200"。该产品基于浪潮信息创新研发的发布多主机低延迟内存语义通信架构,以开放系统设计向上扩展支持64路本土GPU芯片。元脑亿参元脑SD200可实现单机内运行超万亿参数大模型,超节创新并支持多个领先大模型机内同时运行及多智能体实时协作与按需调用,点面目前已率先实现商用。数大设计在实际评测中,模型元脑SD200运行DeepSeek R1和Kimi K2等全参模型的浪潮64卡整机推理性能实现超线性扩展。


当前,混合专家模型(MoE)的发布高效架构正在驱动大模型参数规模持续扩展,国内外前沿大模型的元脑亿参参数量快速突破万亿规模,这给算力系统架构提出新的超节创新挑战。一方面,点面模型参数量增加和序列长度增加带来的数大设计键值缓存(KV cache)激增,需要智能计算系统具有超大显存空间承载,依靠单芯片或节点的性能提升已难以为继;且其推理过程作为通信敏感型计算,对分布式计算通信延时要求极高,需要构建更大向上扩展(Scale up)高速互连域。另一方面,智能体AI开启多模型协作的新范式,其推理过程需要生成比传统模型多近百倍的数据词元(token),导致计算量激增。

元脑SD200超节点AI服务器是浪潮信息面向万亿参数大模型AI时代而设计,创新研发多主机低延迟内存语义通信架构,基于开放总线交换技术构建,在单机内实现了64路GPU芯片的高速统一互连,成功解决万亿大模型对超大显存空间和超低通信延时的核心需求。在开放架构之上,元脑SD200通过智能总线管理和开放的预填充-解码(Prefill-Decoder)分离推理框架实现软硬件深度协同,智能化管理复杂AI计算任务。

- 在架构层面,元脑SD200基于自主研发的开放总线交换技术首创多主机三维网格系统架构,实现64路本土GPU芯片高速互连;通过创新远端GPU虚拟映射技术,突破多主机交换域统一编址难题,实现显存统一地址空间扩增8倍,单机可以提供最大4TB显存和64TB内存,为万亿参数、超长序列大模型提供充足键值缓存空间。同时,依托百纳秒级超低延迟链路,构建64卡大高速互连域统一原生内存语义通信,实测结果表明,在推理过程常见的小数据包通信场景中,全规约(All Reduce)性能表现优异,显著提升计算与通信效率。

- 在系统层面,根据万亿参数大模型计算、通信需求特征,浪潮信息开发智能总线管理系统,实现超节点64卡全局最优路由的自动创建,支持不同拓扑切换,资源按需切分。对于全规约、全聚集(All Gather)等典型通信算子,开展不同数据量大小的细粒度通信策略设计,如多层级通信机制等,实现通信延时进一步降低。同时依托开放的PD分离框架,支持异步KV Cache高效传输与差异化并行策略,在提升业务服务级别目标的同时保持对多元算力的兼容性,实现计算与通信架构的深度协同优化。

元脑SD200超节点AI服务器通过软硬协同系统创新,成功向上扩展突破芯片性能边界,在大模型场景中展示出优异的性能表现。结合优化的PD分离框架,SD200超节点满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍,满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。


当前,开源模型的飞跃式进步正在加速智能时代的到来,推动研发范式从封闭走向开放协作。同时,随着大模型参数量的持续提升,对算力基础设施的建设提出了更高要求。浪潮信息通过开放系统架构创新,为开源大模型的规模化落地和应用创新提供关键支撑。

  • Tag:

相关文章

  • 韩右翼团体示威时涉嫌辱华,韩警方立案调查

    来源:观察者网韩联社8月10日报道,近期,有社会团体在中国驻韩大使馆附近示威时侮辱中方,韩国警方已对此展开立案调查。据报道,首尔南大门警察署近日传唤支持韩国前总统尹锡悦的右翼团体“自由大学”相关人员于
    2025-08-21
  • 男子起诉微软Windows 10停服:强迫用户升级Win11

    美国南加州男子Lawrence Klein已向圣地亚哥高等法院起诉微软,指控其计划于2025年10月14日停止对Windows 10的支持。据Tomshardware报道,Klein拥有两台Windo
    2025-08-21
  • 四年级状物作文:我家兔子真可爱

    今年劳动节,爸爸给我买了一只可爱的小白兔.'它有一双红宝石一样的小眼睛,还有两只长长的耳朵(我家的兔子不知怎么了,右耳朵挂了下来),它那短短的小尾巴最惹人喜爱.它走起路来小屁股一扭一扭的,可它
    2025-08-21
  • 阿布扎比以Phygital项目赋能赛事

    -阿布扎比以Phygital数实融合)项目阵容赋能2025年Games of the Future未来运动会)阿布扎比宣布11个Phygital数实融合)项目,并准备于今年12月迎接Phygital运
    2025-08-21
  • 音乐能量站成网红新地标,今天的三里屯太古里只为音乐而生

    6月30日,QQ音乐携手三里屯太古里,将“京城潮流地标”变身“独家音乐能量基地”,共同呈现国内第一家音乐快闪店,主题为“陪你听全世界&rdq
    2025-08-21
  • 我都成黄金圣斗士了,金手指才来

    【独家签约小说:我都成黄金圣斗士了,金手指才来】穿越圣斗士世界十八年,叶枫已经继承天秤座黄金圣衣。圣战即将到来。“叮,英灵系统已经绑定。”不是,我都成黄金圣斗士了,金手指才来?在系统的帮助下,叶枫能够
    2025-08-21

最新评论