AI 驱动的攻击套件大幅降低成本，扩大威胁格局

Dark Reading 最近的一项调查揭示了一个令人不安的趋势：廉价的 AI 驱动工具包使威胁行为者能够以前所未有的效率发起大规模网络攻击。报告详细描述了两个不同的行动。第一行动中，攻击者利用公开可得的机器学习模型，自动化利用遍布 105 个网站域名的已知漏洞。第二行动则展示了公共 AI 模型可以被诱导以仅 12 美元的成本获取完整的域控制权。

这些行动利用了开源权重模型所带来的低进入门槛。不同于专有的黑箱解决方案，开源模型可以进行微调、重新用途，并与现有的漏洞利用库结合使用，无需许可费用或供应商限制。其结果是攻击面商品化，即使技术一般的攻击者也能组织以前只能由专职红队完成的复杂入侵序列。

从安全政策的角度来看，这种低成本 AI 武器化的出现挑战了传统的威胁建模。组织长期依赖成本和专业技能作为对大规模利用的隐性威慑。但随着 AI 自动化侦察、载荷生成和后期利用步骤，这一计算正在被削弱。防御者必须考虑从针对性高价值攻击向以数量为导向的攻击转变，这类攻击可能压垮传统的事件响应流程。

监管机构也被迫面对生成式 AI 的双重用途特性。虽然相关模型已公开发布用于合法的研究与开发，但缺乏强有力的使用控制导致监管盲区。现有框架如欧盟 AI 法案侧重于高风险应用，却未直接针对可大规模武器化的开源模型的扩散。更细致的做法——例如强制来源追踪或嵌入防篡改元数据——或许能够在不抑制创新的前提下追踪恶意部署。

对于更广阔的 AI 生态系统而言，此事凸显了负责任的模型管理的必要性。开源权重模型的开发者应考虑加入安全缓解措施，如使用政策强制 API 或水印技术，以便下游检测恶意衍生品。同时，网络安全公司必须调整其工具，融合 AI 驱动的威胁情报，自动识别异常的模型行为，在其转化为漏洞之前进行拦截。

总之，廉价 AI 工具与网络攻击自动化的融合标志着一个关键拐点。产业、政府和学术界的利益相关者必须合作建立防护措施，在保留 AI 变革性益处的同时，遏制其作为低成本武器的滥用。

图片：Bernd 📷 Dittrich / Unsplash (https://unsplash.com/@hdbernd)