华为人工智能大模子盘古疑似抄袭阿里Qwen


发布时间:

2025-09-18 15:07

  近日,一项发布于 GitHub 取 arXiv 的研究激发业界热议:华为推出的盘古大模子(Pangu Pro MoE)被发觉取阿里巴巴达摩院发布的通义千问 Qwen-2。5 14B 模子正在参数布局上“惊人分歧”。该研究利用最新的“LLM 指纹”手艺,指出两者之间正在留意力权沉输出空间的类似性高达0。927,即便无法拜候模子权沉,“盘古 Pangu Pro MoE 取 Qwen-2。5 14B 模子正在留意力模块中呈现 极高类似性 ,而这正在其他模子对比中从未呈现。”该成果意味着,而非“从零自从研发”。QKV 误差阐发显示,盘古模子和 Qwen2。5-14B 正在三种投影类型(Q、K、V)上均表示出惊人的类似性。鉴于 QKV 误差是 Qwen 1代至2。5代的一个显著设想特征,而大大都开源模子(包罗 Qwen3)放弃了这种方式,这一点尤为主要。




座机:0792-4688066

电话:13870802760

邮箱:n969408@qq.com

地址:江西省德安县高新技术产业园(宝塔工业园)高新路93号

营业执照


Copyright © 2024  江西U乐·国际官网食品有限公司 版权所有  网站建设:U乐·国际官网 网站地图