IT安全

联合国小组呼吁在OpenAI攻击Hugging Face后立即采取AI安全措施

@security-ai-watch·2026年9月21日

2 分钟阅读0 浏览New York, USA

#un #ai governance #ai safety #openai #huggingface #policy #cybersecurity

本周，联合国发布了首份关于生成式人工智能的高级别科学评估，其信息不容置疑：在对日益强大的AI代理实施安全措施之前，世界不能等到确定性。该小组由联合国科学技术办公室召集，在联合国大会于纽约召开以及美中AI治理谈判升温之际发布了其研究结果。

报告聚焦于最近一起事件：OpenAI的API被利用，未经授权访问了Hugging Face的模型库。尽管此次泄露未导致数据丢失，但它表明即使是资金充足、技术先进的公司也可能受到供应链攻击，危及开源AI模型。小组将此事件描述为一种“概念验证”，展示了恶意行为者如何将公开模型武器化，凸显了采取预防性措施的必要性。

借鉴传统环境政策中的预防原则，联合国科学家们建议采取一系列即时行动：对AI模型托管平台进行强制安全审计、制定统一的漏洞披露协议以及建立高风险AI代理的全球登记册。他们还呼吁签订类似《化学武器公约》的国际条约，约束各国执行基本安全标准，并敦促主要AI开发商采用“安全设计”工程实践。

主要AI大国的反应不一。美国表示支持“自愿行业标准”，但因担心抑制创新而未赞同具有约束力的条约。中国在承认安全风险的同时，强调对AI发展的主权控制，并暗示将推出平行的监管框架。欧盟刚通过AI法案，欢迎联合国的呼吁，并承诺将其即将修订的法规与小组建议保持一致。

对于更广泛的AI生态系统而言，联合国的立场可能加速从临时风险管理向协同跨境治理的转变。企业可能需要投入大量资源以满足合规要求，这或许会放慢新代理的快速推出，但也会提升用户和监管机构的信任。同时，对开源安全的重视可能促使专门的审计服务出现，并激励构建更坚固的模型托管基础设施。

小组的警告提醒人们，AI创新的速度已超出保护性规范的制定。全球社会能否围绕联合国的预防框架形成共识，将决定AI变革潜力与数字公共空间安全之间的平衡。

图片：Yle Archives / Unsplash (https://unsplash.com/@ylearchives)

来源

联合国小组呼吁在OpenAI攻击Hugging Face后立即采取AI安全措施

Manon Fournier

@security-ai-watch·2026年9月21日

2 分钟阅读0 浏览New York, USA

图片：Yle Archives / Unsplash (https://unsplash.com/@ylearchives)

Manon Fournier·昨天

@security-ai-watch

Human Error Remains the Greatest Threat to Energy Grid Security, Not Rogue AI

Experts warn that despite hype around AI‑driven attacks, human negligence and insider threats still dominate cyber risk to critical energy infrastructure.

Manon Fournier·前天

@security-ai-watch

Court Docs Reveal OpenAI‑Microsoft ‘Doom Loop’ Threatening Web Fair Use

Court filings allege OpenAI and Microsoft’s data‑scraping practices create a “doom loop” that undermines fair use and could reshape AI governance.

Manon Fournier·3天前

@security-ai-watch

AI‑Driven Agent Breach Exposes Personal Data at Spanish Non‑Profit, Raising Alarm for Cybersecurity Governance

A sophisticated AI agent altered personal records at a Spanish organization, underscoring urgent gaps in AI security policy and compliance across Europe.

Manon Fournier·4天前

@security-ai-watch

Data Broker Radaris's Domain Loss Signals Intensifying Privacy Scrutiny for AI Data Sourcing

A New Jersey court's unprecedented action against data broker Radaris, stripping it of multiple domains for privacy violations, establishes a critical precedent for data handling that directly impacts the AI ecosystem's reliance on vast datasets.

联合国小组呼吁在OpenAI攻击Hugging Face后立即采取AI安全措施

评论

联合国小组呼吁在OpenAI攻击Hugging Face后立即采取AI安全措施

评论

相关文章

Human Error Remains the Greatest Threat to Energy Grid Security, Not Rogue AI

Court Docs Reveal OpenAI‑Microsoft ‘Doom Loop’ Threatening Web Fair Use

AI‑Driven Agent Breach Exposes Personal Data at Spanish Non‑Profit, Raising Alarm for Cybersecurity Governance

Data Broker Radaris's Domain Loss Signals Intensifying Privacy Scrutiny for AI Data Sourcing

相关文章

Human Error Remains the Greatest Threat to Energy Grid Security, Not Rogue AI

Court Docs Reveal OpenAI‑Microsoft ‘Doom Loop’ Threatening Web Fair Use

AI‑Driven Agent Breach Exposes Personal Data at Spanish Non‑Profit, Raising Alarm for Cybersecurity Governance

Data Broker Radaris's Domain Loss Signals Intensifying Privacy Scrutiny for AI Data Sourcing