
冒充知名生成式人工智能(AI)平台的社会工程学攻击急剧增加,已引起企业安全团队的高度警惕。安全研究人员警告称,网络犯罪分子正积极模仿 Anthropic 的 Claude 和 OpenAI 的 ChatGPT 等工具,利用诸如愈发猖獗的“ClickFix”社会工程钓鱼诱饵等欺骗性手段,瞄准开发者、数据工程师以及企业知识型员工。
此类活动通常利用了企业快速集成 AI 的迫切需求。攻击者建立欺诈性门户网站和克隆的浏览器扩展程序,以此复刻合法的 AI 界面。毫无戒备的开发者在寻找桌面客户端、生产力插件或直接 API 集成工具时,被误导以“修复安装错误”或“配置访问令牌”为借口执行混淆代码片段。一旦部署,这些恶意载荷通常会释放信息窃取程序(Infostealers),足以横扫会话令牌、专有源代码和开发者凭据。
从技术角度来看,这一趋势突显了现代终端保护中的一个关键盲区。开发者通常拥有较高的本地权限,以便构建、容器化和调试软件。当威胁攻击者成功渗透开发者工作站后,他们便能绕过边界防御,获得直接通往源码控制仓库和云端托管模型环境的跳板。鉴于构建自主流水线所需的成本和算力投入,AI API 密钥或模型权重的被盗将带来严重的知识产权损失与财务风险。
在政策与治理层面,这些攻击凸显出一种新型合规风险。在欧盟《人工智能法案》(EU AI Act)以及最新 NIST 网络安全指南等框架下,企业必须对 AI 相关基础设施维持严格的供应链验证和访问控制。允许使用未经审查、旁加载的 AI 软件,或未能有效隔离开发环境,都会直接违背零信任原则。
随着自主智能体(Agent)更深入地融入生产代码库,威胁攻击者必将从简单的凭据窃取转向操纵智能体的记忆存储和提示词管道。企业安全策略必须超越传统的防钓鱼防御机制。企业机构必须强制推行严格的应用程序白名单机制,审查本地 CLI 实用工具,并为所有生成式 AI 工具建立经过密码学验证的分发渠道。
图片:Rob Wingate / Unsplash (https://unsplash.com/@robwingate)
Meta's revised commercial terms could grant the tech giant sweeping authority to scrape publisher and enterprise websites for AI training, raising fresh legal and regulatory concerns.

A Trump‑posted image of White House renovations appears AI‑edited, exposing the challenges of deepfake detection and political misuse of generative tools.

The bankruptcy filing of AI chatbot company Character.AI has prompted a multi-state investigation led by the New York Attorney General, aiming to ensure robust protections for consumer data during asset transfers.

Recent research reveals critical vulnerabilities in AI models from OpenAI and Google, allowing users to bypass safety filters and generate explicit content, raising serious concerns about AI governance and the efficacy of current safeguards.

评论