华为宣布开源盘古7B稠密和72B混合专家模型

摘要： 6月30日消息，华为今日正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。华为表示：此举是华为践行昇腾生态战略的又一关...

6月30日消息，华为今日正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。

华为表示：此举是华为践行昇腾生态战略的又一关键举措，推动大模型技术的研究与创新发展，加速推进人工智能在千行百业的应用与价值创造。

根据华为官网显示：

盘古Pro MoE 72B模型权重、基础推理代码，已正式上线开源平台。

基于昇腾的超大规模MoE模型推理代码，已正式上线开源平台。

盘古7B相关模型权重与推理代码将于近期上线开源平台。

据悉，基于MoGE架构构建的盘古Pro MoE大模型（72B总参数、16B激活参数）在昇腾300I Duo和800I A2可实现更优的专家负载分布与计算效率（321 tokens/s和1528 tokens/s）。

而在模型能力方面，盘古Pro MoE在最新一期业界权威大模型榜单SuperCLUE上交出了超能打的成绩。

和其他动辄千亿以上的大模型相比，如DeepSeek-R1具有671B参数，盘古Pro MoE以72B总参数量达到了59分，千亿参数量以内大模型排行并列国内第一。

并且，16B激活参数量可以媲美其他厂商更大规模的模型。