花 花心大刀123 Active member Lv0 Lv1 Lv2 10消息得分 注册 2025-06-12 消息 1,515 反馈评分 0 2025-07-04 #1 HonestAGI 研究团队发表论文,提出通过分析大语言模型注意力参数标准差模式来识别模型"指纹"的新方法。该技术能够检测模型是否通过继续训练从其他模型衍生而来,即使经过大量训练也难以消除这些内在特征。 研究团队使用此方法发现,华为盘古 Pro MoE 模型与 Qwen-2.5 14B 模型存在 0.927 的极高相关性,表明前者可能通过"升级改造" Qwen 模型获得,而非从零训练。这一发现质疑了华为在技术报告中关于大规模独立训练投入的声明,涉嫌版权侵犯和信息造假。 要查看链接,请先 登录 or 注册
HonestAGI 研究团队发表论文,提出通过分析大语言模型注意力参数标准差模式来识别模型"指纹"的新方法。该技术能够检测模型是否通过继续训练从其他模型衍生而来,即使经过大量训练也难以消除这些内在特征。 研究团队使用此方法发现,华为盘古 Pro MoE 模型与 Qwen-2.5 14B 模型存在 0.927 的极高相关性,表明前者可能通过"升级改造" Qwen 模型获得,而非从零训练。这一发现质疑了华为在技术报告中关于大规模独立训练投入的声明,涉嫌版权侵犯和信息造假。 要查看链接,请先 登录 or 注册