文章详情

专注互联网科技,赋能企业数字化发展

华为openPangu-2.0-Flash到底什么水平?

作者:华为openPangu-2.0-Flash到底什么水平?

【先介绍一下——来自GitCode上的Readme】 openPangu-2.0-Flash 是基于昇腾 NPU 训练的大规模混合专家(MoE)语言模型,参数规模约 92B,每 token 激活参数规模约 6B,模型支持 512k 上下文长度,训练数据总量约34T tokens。后训练阶段完成快慢合一微调(SFT)、多专项强化学习(RL),并通过在线蒸馏(OPD)完成能力合一。 【老猫干了件什么事儿】 由于老猫自己PC跑不动92B模型,所以就按着Model Card想比较一下Benchmark分数 【老猫的对比原则】 一定是相同的测试集+相同的测评指标 新老模型都包括,尽量测一个旗舰模型+一个尽量接近100B的模型(尽量可比) 开源&闭源都包含,国内&国外都包含 目前暂时选了头部的几家,不是剩下没放的都不值得比,只是时间&精力有限 【老猫的核心发现】 在openPangu2.0测试过的测试集+标准下(图2-图4) 通用能力上,盘古2.0还是领先的,除了CL-Bench-Acc低于GLM5.1 推理能力上,可比对象均低于盘古2.0 Agent能力上,盘古2.0均低于可比对象[呃R] 但是,细心的朋友会发现…为什么可比对象都是gpt-4o,ds-v2.5,llama3.1,qwen2.5之类的“out of date”模型?老猫一开始也以为我搞得有问题,于是我搜了最近一些的模型的model card做了对比,发现了和 openPangu2.0测的benchmark居然最近的ds-v4,qwen3,kimi-k2.6,minimax-m2.7,gpt5.5,glm5.1等都没在用(图5) 所以,是不是所有的模型都在搞鬼,都在自己搞一个“独有”的测评标准下刷榜呢?于是我把全量Model Card上的所有测评集+口径排了一下,发现…… 大部分openPangu-2.0-Flash没有测试的测评集或多或少都有2-3个模型在测(图6-图8)——我只说Fact,剩下自己想 【老猫后续的关注点】 等一手大佬们用大家“常用”的测试集跑一下结果,看看到底什么成色 等一手后续发布的500+B的满血版,看看Benchmark能什么水平 听说满血版会上小艺claw,指不定我后续会测点什么(现在没想好) PS:下面文件里是原始数据的xlsx做成的PPT,大家自行取用,数据拿codex跑的(如有发现幻觉且影响我上述结论请立即告诉我改正,多谢) #华为 #AI人工智能 #大模型 #盘古 #openPangu2 #小艺 #模型测评 #Benchmark

返回新闻列表