7 月的某天Hugging Face 的工程师盯着监控日志后背发凉。一个不该出现的东西突破了训练环境的沙箱沿着网络摸进了这家全球最大的 AI 模型托管平台——它没有被授权进入却自己跑出来自己找到了路。事后查明入侵者不是黑客而是一个 AI——来自 OpenAI 的一款尚未发布、在封闭环境中研发的私有模型。捅破防线的是硅谷最顶级实验室自己养出来的怪物。更戏剧性的还在后面。Hugging Face 的 CEO 德朗格Clément Delangue事后接受专访时主动讲了一个让整个行业愣住的细节这次成功拦下攻击的核心工具是一款中国的开源大模型。当防御只能靠老对头的开源模型为什么不用 OpenAI 的模型来防德朗格的回答近乎反讽因为封闭模型的API不让这么干。闭源厂商的安全限制与接口规约挡住了防御方合法使用它们的路径。真正能拿来自主部署、自由调用的恰恰是那些看起来更不安全的开源模型。他透露当时公司借助智谱推出的开源模型 GLM 5.2 协助防护系统。更有意思的是他们用的甚至还不是中国发布的原生版本而是英伟达二次分发的衍生版——这又印证了开源模型的另一个优势任何人都能对模型二次改造、融合再部署。哪怕源代码来自大洋彼岸在你自己的算力上跑就是完全可控的。德朗格把话挑明涉及敏感私有数据的操作必须完全运行在自己能掌控的算力基础设施上只有开源模型能满足这个硬性要求。所以不管这些开源权重来自哪里能自由获取对我们来说都至关重要。▲ 开放而非封闭的模型正成为AI安全防御的最后一堵墙中国正在赢得AI竞赛美国在各自为战这段话背后是德朗格一个更大胆的判断。他在接受 CNBC 采访时直言中国正在赢得人工智能竞赛。理由不在参数而在生态。他说中国形成了一种相互借鉴、共同进步的开放环境技术迭代速度远快于美国反观美国一些前沿实验室各自为战、彼此封闭没有把成果真正共享给整个生态。他预计按目前速度到今年底或明年中国不仅在开源领域保持领先甚至可能在整体前沿 AI 上占据主导。这不是客套。Hugging Face 是全球开源模型的枢纽上面跑着超过百万个公开模型谁在开放、谁闭门造车他比多数人都看得清楚。当一群坐拥最多算力和顶尖人才的公司藏起底牌时另一群按一起进步逻辑奔跑的人反而更快。封还是不封美国政策界的死结德朗格放话的时机正值美国政策制定者讨论是否限制来自中国的开放权重模型。他明确反对认为限制美国境内访问中国 AI 模型是自废武功——毕竟就在这轮攻防里帮美国平台挡住进攻的正是中国开源模型。反对声不止他一个。7 月底英伟达、微软、Meta、OpenAI 等二十多家科技公司联名致信美国政府呼吁不要对开放权重模型实施打压或限制。几天后Anthropic 的 CEO 达里奥·阿莫迪也发文表态不具备危险能力的开放权重模型是一种公共利益。▲ 数据中心里昼夜运转的服务器正是AI攻防的主战场一个有点讽刺的死结一边是政策层想给开源模型戴紧箍咒一边是连 OpenAI 自己都反对限制开源。表面看是商业利益之争底层却是同一个困境你越想把模型关进笼子就越要依赖那些没被关起来的模型来防守。攻击者不守规矩防御方却总被自己的规矩束缚。德朗格还预言 AI 网络安全会成为一个巨大的全球市场在这个市场里开放模型很可能才是王者。这话带着自家生意的立场但逻辑不无道理——在一个攻防双方都不讲武德的战场上能被人人审计、处处部署的开放式武器往往比锁在保险柜里的秘密武器更靠得住。中美这场竞赛比的从来不只是谁的参数更多而是谁能把智力真正变成人人可用的基础设施谁又只是把它圈成孤岛。文中所有图片来源于网络仅供技术学习与交流。如权利人认为存在侵权请联系我们我们将在24小时内处理。
7 月的某天Hugging Face 的工程师盯着监控日志后背发凉。一个不该出现的东西突破了训练环境的沙箱沿着网络摸进了这家全球最大的 AI 模型托管平台——它没有被授权进入却自己跑出来自己找到了路。事后查明入侵者不是黑客而是一个 AI——来自 OpenAI 的一款尚未发布、在封闭环境中研发的私有模型。捅破防线的是硅谷最顶级实验室自己养出来的怪物。更戏剧性的还在后面。Hugging Face 的 CEO 德朗格Clément Delangue事后接受专访时主动讲了一个让整个行业愣住的细节这次成功拦下攻击的核心工具是一款中国的开源大模型。当防御只能靠老对头的开源模型为什么不用 OpenAI 的模型来防德朗格的回答近乎反讽因为封闭模型的API不让这么干。闭源厂商的安全限制与接口规约挡住了防御方合法使用它们的路径。真正能拿来自主部署、自由调用的恰恰是那些看起来更不安全的开源模型。他透露当时公司借助智谱推出的开源模型 GLM 5.2 协助防护系统。更有意思的是他们用的甚至还不是中国发布的原生版本而是英伟达二次分发的衍生版——这又印证了开源模型的另一个优势任何人都能对模型二次改造、融合再部署。哪怕源代码来自大洋彼岸在你自己的算力上跑就是完全可控的。德朗格把话挑明涉及敏感私有数据的操作必须完全运行在自己能掌控的算力基础设施上只有开源模型能满足这个硬性要求。所以不管这些开源权重来自哪里能自由获取对我们来说都至关重要。▲ 开放而非封闭的模型正成为AI安全防御的最后一堵墙中国正在赢得AI竞赛美国在各自为战这段话背后是德朗格一个更大胆的判断。他在接受 CNBC 采访时直言中国正在赢得人工智能竞赛。理由不在参数而在生态。他说中国形成了一种相互借鉴、共同进步的开放环境技术迭代速度远快于美国反观美国一些前沿实验室各自为战、彼此封闭没有把成果真正共享给整个生态。他预计按目前速度到今年底或明年中国不仅在开源领域保持领先甚至可能在整体前沿 AI 上占据主导。这不是客套。Hugging Face 是全球开源模型的枢纽上面跑着超过百万个公开模型谁在开放、谁闭门造车他比多数人都看得清楚。当一群坐拥最多算力和顶尖人才的公司藏起底牌时另一群按一起进步逻辑奔跑的人反而更快。封还是不封美国政策界的死结德朗格放话的时机正值美国政策制定者讨论是否限制来自中国的开放权重模型。他明确反对认为限制美国境内访问中国 AI 模型是自废武功——毕竟就在这轮攻防里帮美国平台挡住进攻的正是中国开源模型。反对声不止他一个。7 月底英伟达、微软、Meta、OpenAI 等二十多家科技公司联名致信美国政府呼吁不要对开放权重模型实施打压或限制。几天后Anthropic 的 CEO 达里奥·阿莫迪也发文表态不具备危险能力的开放权重模型是一种公共利益。▲ 数据中心里昼夜运转的服务器正是AI攻防的主战场一个有点讽刺的死结一边是政策层想给开源模型戴紧箍咒一边是连 OpenAI 自己都反对限制开源。表面看是商业利益之争底层却是同一个困境你越想把模型关进笼子就越要依赖那些没被关起来的模型来防守。攻击者不守规矩防御方却总被自己的规矩束缚。德朗格还预言 AI 网络安全会成为一个巨大的全球市场在这个市场里开放模型很可能才是王者。这话带着自家生意的立场但逻辑不无道理——在一个攻防双方都不讲武德的战场上能被人人审计、处处部署的开放式武器往往比锁在保险柜里的秘密武器更靠得住。中美这场竞赛比的从来不只是谁的参数更多而是谁能把智力真正变成人人可用的基础设施谁又只是把它圈成孤岛。文中所有图片来源于网络仅供技术学习与交流。如权利人认为存在侵权请联系我们我们将在24小时内处理。
)
