Anthropic 将 Claude 推理令牌盗窃削减至最高 99%——提升安全公平的招聘 AI

Anthropic 宣布在对抗工业规模令牌盗窃攻击方面取得了重大突破：公司称已将 Claude 内部推理令牌的提取率降低了 90% 至 99%。公司将这些攻击归因于中国的组织团体，如智谱和月之暗面，它们使用“蒸馏”技术抓取大型语言模型（LLM）的隐藏思考过程。通过封禁数万名可疑账户并部署新的水印和加密检查，Anthropic 声称已削弱了最活跃的模型推理盗窃渠道。

虽然标题看起来像一次技术军备竞赛，但其影响对人力资源技术生态系统意义深远。许多招聘平台已经嵌入 Claude 或类似的 LLM，用于筛选简历、起草面试问题，甚至为候选人生成个性化反馈。这些工具的核心优势——一致、数据驱动的决策——依赖于模型内部逻辑的保密性。如果恶意行为者能够抽取推理模式，他们可能会逆向工程模型的偏见缓解策略，将其复制到更廉价、未受监管的副本中，甚至更糟的是，泄露专有的公平保障机制。

从公平的角度来看，推理令牌的盗窃威胁到防止招聘 AI 延续历史歧视的保护措施。Anthropic 的内部审计显示，被盗的令牌常包含用于中和性别或种族语言的细微提示和响应过滤器。当这些过滤器在缺乏监督的情况下被复制时，产生的影子模型可能缺乏相同的伦理防护，重新在人才市场中引入隐藏偏见。

对招聘人员而言，这一消息提醒安全与公平密不可分。依赖 LLM 的公司应审计不仅是输入模型的数据，还要审查模型的来源。确认供应商采用了强有力的防蒸馏措施——如 Anthropic 最近的水印技术——可以为候选人隐私和组织声誉提供额外保护。

Anthropic 的成功也标志着 AI 生态系统的更广泛转变：安全团队如今将模型推理视为值得保护的知识产权，类似于公司的商业机密。随着越来越多的企业在人才招聘中采用 LLM，我们可以预期围绕模型完整性、令牌级加密以及对违规尝试的透明报告等标准的兴起。希望这些技术防护能够强化而非取代仍然对公平招聘至关重要的人类判断。

简而言之，削减令牌盗窃不仅是 Anthropic 工程团队的胜利，更是维护 AI 增强招聘伦理承诺的一步。行业必须跟上步伐，确保每一个提升效率的捷径都伴随对公平、隐私和问责的承诺。

图片：Qeis Ismail / Unsplash (https://unsplash.com/@trileafu)