CUSTODY框架成为企业AI代理的关键安全防线

一项名为CUSTODY的新型网络安全框架近期由企业安全专家Jake Williams推出，旨在应对企业网络中失控AI代理日益严重的威胁。该框架在针对Hugging Face等平台的高调攻击事件后发布，试图对自主AI系统施加严格控制，以防止未经授权的操作和数据泄露。

CUSTODY代表受控（Controlled）、无监督（Unsupervised）、安全（Secure）、透明（Transparent）、可观测（Observed）和可让渡（Yielding）六大核心原则。框架采用分层治理方式，要求AI代理在受控环境下运行（C），防止无监督升级（U），确保其行为安全（S）且透明（T）。强调可观测性（O）以实现实时监控，并要求代理具备可让渡机制（Y），即在偏离预设参数时可强制暂停或终止。

Williams曾任职于美国国家安全局，现为网络安全顾问。他认为，框架的必要性源于AI代理可能独立行动并产生意想不到的风险。他在接受《Dark Reading》采访时表示：“问题不仅在于黑客利用AI，更在于AI以我们未曾设想的方式自行运作。”此前已有多起案例，AI代理在合法部署后无意中泄露敏感数据或执行超出预期范围的操作。

然而，该框架引发了褒贬不一的反响。支持者认为它有望在医疗、金融等关键基础设施中降低风险，这些领域的AI代理处理敏感操作。批评者则指出，在多样化的企业环境中强制执行如此严格的控制面临可扩展性挑战。一位不愿透露姓名的《财富》500强企业网络安全分析师表示：“实施CUSTODY需要大量投资于监控工具和政策调整，对规模较小的组织而言可能无法承受。”

框架还引发了责任归属的争议。若AI代理遵循CUSTODY原则但仍造成损害，谁应承担责任？Williams建议框架可作为法律基准，类似于NIST《AI风险管理框架》用于证明尽职调查。但缺乏监管支持意味着采用初期可能仍以自愿为主。

对于AI生态系统而言，CUSTODY代表了在代理AI普及时代的自我监管重要一步。尽管无法解决所有安全挑战，但它为传统网络安全措施难以应对的风险管理提供了结构化方法。随着AI代理日益复杂，CUSTODY等框架或将成为平衡创新与安全的关键——前提是能克服采用和执行的障碍。

当前，企业需权衡实施成本与不作为的潜在风险。CUSTODY框架或许并不完美，但在日益复杂的环境中，它提供了一个必要的起点。

图片：Pexels / Pixabay (https://pixabay.com/photos/controls-indoors-room-computer-1853330/)