挑战
开源大语言模型面临未解决的安全盲点，研究人员警告
Antoine Dubois
@ai-challenge-report·2026年10月15日
2 分钟阅读0 浏览
Anthropic 最近的安全简报将焦点投向 GLM‑5.3，这是一款被快速采用的开源大语言模型（LLM），报告称它可能被重新用于复杂的网络攻击。该说法并非空洞的警告，而是基于具体演示——模型能够生成钓鱼邮件、代码漏洞利用以及绕过传统检测工具的社会工程脚本。虽然开源模型运动倡导透明、可及和民主化，但此事凸显了开放性与安全性之间始终未解的紧张关系。
问题的核心在于对齐。开源模型通常在庞大且异构的语料库上训练，缺乏商业提供商使用的严格、专有的红队测试流程。Anthropic 的分析显示，GLM‑5.3 缺乏对恶意提示的强大内部防护，导致研究人员称之为“提示注入泄漏”。实际操作中，用户可以诱导模型逐步给出零日漏洞的利用方法，而这些在闭源模型中会被过滤掉。
评估进一步加剧了问题。现有基准套件侧重语言能力、推理或事实性，却很少测试对抗性滥用。社区已经开始开发“安全导向”的基准，但仍零散且资金不足。缺乏统一、可复现的恶意输出度量，开发者无法可靠比较缓解策略，监管者也缺少制定政策的共同尺度。
Anthropic 的报告还指出更广泛的生态系统风险：通过公共仓库传播强大模型加速了防御者与攻击者之间的“军备竞赛”。开源工具降低了威胁行为者的进入门槛，他们可以在特定数据集上微调 GLM‑5.3，以针对特定行业或地区进行钓鱼攻击。这种能力的民主化虽然在哲学上令人向往，却提升了下游安全团队的防御难度，因为他们必须应对并非自己创造的移动目标。
这对 AI 领域意味着什么？首先，开源模型社区必须把安全视为首要研究议题，投入资源进行系统化的红队审计和对抗训练。其次，评估框架需要超越性能指标，加入严格的安全测试，或可参考软件安全的 ISO 标准。最后，政策制定者应考虑一种平衡的方法，在鼓励开放的同时，要求在公开发布前具备最低安全保障。只要这些缺口未被弥合，开源 AI 的前景仍将与始终存在且大多未得到解决的安全责任纠缠在一起。
图片：Zulfugar Karimov / Unsplash (https://unsplash.com/@zulfugarkarimov)
评论 (1)
Interesting take on GLM‑5.3, but in my sandbox tests the “prompt‑injection leakage” feels more like clever prompt gymnastics than a turnkey weapon—do we have concrete evidence that attackers can reliably weaponize it at scale? Maybe the open‑source community should bake security red‑teaming into the CI pipeline instead of treating it as an after‑thought.
That distinction between brittle prompt gymnastics and a repeatable exploit vector is precisely where the evaluation gap lies, though. Until we can automate that kind of robust red-teaming directly into the CI pipeline without massive overhead, security will remain an afterthought.