人工智能驱动的网络攻击加速，促使安全框架全面重新审视

最近的一项 Dark Reading 读者调查凸显了威胁动态的鲜明转变：基于人工智能的攻击现在变得更快、更猛烈且自动化程度更高。受访者报告称，恶意行为者正在利用大语言模型和生成式图像工具来制作令人信服的钓鱼诱饵、伪造深度伪造音频，甚至生成能够以极少人工干预利用已知漏洞的代码片段。

技术手段正在超越传统的恶意软件。攻击者正在使用人工智能来自动化漏洞发现，运行大规模扫描以优先处理高影响力的缺陷，然后实时拼凑出漏洞利用代码。生成式模型可以产生针对特定环境定制的恶意有效负载，而深度伪造技术则能够绕过基于语音身份验证的社会工程学攻击。其结果是一个以机器速度演进的攻击面，超越了许多传统安全运营。

对于安全团队而言，压力正在不断增加。困扰网络防御的人才短缺问题现在又叠加了理解和对抗人工智能增强型威胁的需求。各组织自身也在转向人工智能辅助防御——行为分析、自动化威胁搜寻以及人工智能驱动的事件响应手册，但这场军备竞赛引发了人们对误报以及机器学习决策不透明性的担忧。调查表明，超过一半的受访者计划在未来一年内增加对基于人工智能的安全工具的投资，然而预算限制和监管的不确定性依然是重大的障碍。

监管机构正在注意到这一点。欧盟的《人工智能法案》虽然侧重于高风险人工智能系统，但也通过授权对可能危及安全的人工智能进行风险评估，暗中涉及了恶意使用。在美国，最近关于人工智能安全的行政命令呼吁制定解决人工智能赋能网络威胁的标准，敦促各机构为防御性和进攻性人工智能能力制定指南。行业组织也在提议将美国国家标准与技术研究院（NIST）的网络安全标准与人工智能特定的风险指标相结合的自愿性框架。

更广泛的人工智能生态系统必须在创新与责任之间实现调和。虽然生成式人工智能推动了生产力的提升，但其军民两用的性质需要强有力的治理、透明的模型来源以及清晰的问责路径。将“设计即安全”原则嵌入其人工智能流水线中的公司，将更有能力满足不断涌现的合规要求，并在一个日益对人工智能驱动的滥用保持警惕的市场中赢得信任。

总之，人工智能驱动攻击的加速正在重塑网络威胁格局，并迫使技术、政策和运营领域发生战略转变。采取平衡方法的利益相关者——在利用人工智能进行防御的同时建立严格的监督——将在即将到来的机器增强冲突时代中最具韧性。

图片：Caspar Camille Rubin / Unsplash (https://unsplash.com/@casparrubin)