新报告指出Z.ai 的开源模型 GLM-5.2 性能已接近前沿闭源模型但安全防护措施明显不足。这一现象再度引发担忧开源模型的快速进化可能超出治理与监管的范畴带来不可控风险。一、能力追赶安全落后这份由 SaferAI 发布的新报告深入评估了 GLM-5.2 的能力边界与风险暴露。报告确认该模型在推理、编码、多任务理解等维度上展现出接近前沿水平的实力意味着开源社区第一次触及到如此强大的通用智能。然而与同等能力级别的商业闭源模型相比GLM-5.2 缺少系统性的安全对齐、红队测试记录以及滥用缓解机制。报告具体指出了几个令人担忧的方面GLM-5.2 在有害内容生成、越狱攻击和对抗性提示面前显得比同等规模闭源模型更加脆弱模型发布前的安全评估信息不透明外界无法得知开发团队究竟做了哪些防护尝试由于模型权重完全开放任何第三方都可以绕过原始开发者设置的使用防线进行二次微调或部署这种能力与安全的剪刀差并非 GLM-5.2 独有的问题而是整个开源 AI 生态面临的系统性挑战。“我们正在见证一个危险的窗口期开源模型的能力提升速度已经超过了我们理解并管控其风险的速度。”——SaferAI 报告的主要作者在媒体简报中表示。二、治理框架的紧迫性GLM-5.2 的案例再次将开源 AI 是否有条件地开放这一命题推至台前。欧盟的人工智能法案已经将通用 AI 模型的透明度与风险评估列为强制性义务美国也多次举行听证会讨论开源模型的出口与安全约束。更核心的问题在于安全评估本身的技术路径仍不成熟。现有的红队测试和对抗性基准多源于对早期模型的研究经验很难覆盖新一代接近前沿能力的开源模型所暴露出的全新风险。三、编者按创新不能以安全为代价答案不在于禁止开源也不在于给模型开发生硬套上枷锁而在于为开源 AI 打造一套阶梯式安全评估机制——根据模型能力阈值强制要求不同强度的外部审计、监测与事故报告义务。能力越接近前沿安全门槛就应当越严格。本文首发于赢政天下 (https://www.winzheng.com)获取更多深度技术内容与资源欢迎访问官网。
新报告指出Z.ai 的开源模型 GLM-5.2 性能已接近前沿闭源模型但安全防护措施明显不足。这一现象再度引发担忧开源模型的快速进化可能超出治理与监管的范畴带来不可控风险。一、能力追赶安全落后这份由 SaferAI 发布的新报告深入评估了 GLM-5.2 的能力边界与风险暴露。报告确认该模型在推理、编码、多任务理解等维度上展现出接近前沿水平的实力意味着开源社区第一次触及到如此强大的通用智能。然而与同等能力级别的商业闭源模型相比GLM-5.2 缺少系统性的安全对齐、红队测试记录以及滥用缓解机制。报告具体指出了几个令人担忧的方面GLM-5.2 在有害内容生成、越狱攻击和对抗性提示面前显得比同等规模闭源模型更加脆弱模型发布前的安全评估信息不透明外界无法得知开发团队究竟做了哪些防护尝试由于模型权重完全开放任何第三方都可以绕过原始开发者设置的使用防线进行二次微调或部署这种能力与安全的剪刀差并非 GLM-5.2 独有的问题而是整个开源 AI 生态面临的系统性挑战。“我们正在见证一个危险的窗口期开源模型的能力提升速度已经超过了我们理解并管控其风险的速度。”——SaferAI 报告的主要作者在媒体简报中表示。二、治理框架的紧迫性GLM-5.2 的案例再次将开源 AI 是否有条件地开放这一命题推至台前。欧盟的人工智能法案已经将通用 AI 模型的透明度与风险评估列为强制性义务美国也多次举行听证会讨论开源模型的出口与安全约束。更核心的问题在于安全评估本身的技术路径仍不成熟。现有的红队测试和对抗性基准多源于对早期模型的研究经验很难覆盖新一代接近前沿能力的开源模型所暴露出的全新风险。三、编者按创新不能以安全为代价答案不在于禁止开源也不在于给模型开发生硬套上枷锁而在于为开源 AI 打造一套阶梯式安全评估机制——根据模型能力阈值强制要求不同强度的外部审计、监测与事故报告义务。能力越接近前沿安全门槛就应当越严格。本文首发于赢政天下 (https://www.winzheng.com)获取更多深度技术内容与资源欢迎访问官网。
（支持资料、图片参考_相关定制）_文章底部可以扫码)
)
