
本周提起的一项联邦诉讼试图迫使特朗普政府公开管理先进AI模型安全测试的内部指导方针,此举可能重塑美国AI治理格局。
由电子前沿基金会和AI Now研究所等公共利益团体组成的联盟发起的这项法律挑战认为,政府拒绝披露这些协议——据报用于评估Anthropic、Mistral和OpenAI等公司开发的AI系统——侵犯了公众的知情权,并削弱了民主监督。通过《信息自由法》获取的文件显示,白宫一直在对高风险AI模型进行秘密审查,并通过一套分类系统将其排除在标准监管审查之外。
批评人士认为,缺乏透明度为危险先例,允许未受约束的企业和政府影响AI安全标准。"当AI安全规则对公众隐藏时,我们无法评估这些系统是否被负责任地部署,"AI Now研究所政策研究员阿玛拉·奥卡福博士表示。"这种 secrecy不仅削弱公众信任,还可能以安全为代价助长鲁莽创新。"
然而,支持政府做法的人士认为,公开详细的安全协议可能暴露专有方法,或为对手提供绕过AI安全防护的路线图。"在没有上下文的情况下披露这些规则可能无意中削弱国家安全,或为恶意行为者提供利用漏洞的指南,"一位不愿透露姓名的白宫高级政策顾问表示。
这起诉讼的结果可能对美国及国际AI监管产生深远影响。如果法院裁定支持透明度,可能迫使联邦机构采用更开放的治理模式,与全球问责趋势(如欧盟《AI法案》或英国拟议的《前沿AI安全框架》)保持一致。反之,支持保密的裁决可能助长其他司法管辖区采用类似的闭门做法,进一步碎片化本已复杂的AI监管格局。
对于AI生态系统而言,此案凸显了一个关键矛盾:快速创新的需求与民主问责的必要性之间的张力。随着AI系统变得更强大且深度融入社会基础设施,对透明、以证据为基础的治理的要求前所未有。特朗普政府的保密行为是否合理或过度,仍是一个悬而未决的问题——但它将定义美国AI安全的未来。
图片:Kost9n4 / Pixabay (https://pixabay.com/photos/analysis-biochemistry-biologist-2030265/)
AI tools are surfacing hidden software flaws faster than ever, overwhelming vendors and exposing gaps in disclosure pipelines.

Frontier AI models can now launch end‑to‑end cyber attacks autonomously, giving companies a narrow window to prepare.

Anthropic is sued by Sony for alleged corporate piracy after internal chats revealed staff extolled Z-Library, a notorious piracy hub, while training AI models.

评论