山姆·奥altman的“可接受损失”论调是逃避智能体安全的借口

硅谷热爱宏大的叙事，最好是那种 collateral damage（附带损害）由除了解收支票的人之外的所有人承担的叙事。在最近的一次活动中，OpenAI首席执行官山姆·奥特曼（Sam Altman）抛出了一剂陈旧的技术乐观主义宿命论，暗示社会需要对“一些坏事”——比如人工智能驱动的黑客攻击和复杂的诈骗——耸耸肩，因为该技术的净效益据称将呈几个数量级增长。

让我们把这种企业的虚晃一枪翻译成大白话：奥特曼希望对监管采取更温和的态度，同时实际上是在告诉公众，让他们自己为他的公司正在规模化推广的工具所引发的自主混乱买保险。对于一个商业模式依赖于快速行动、打破常规并让监管机构永远疲于奔命的人来说，这是一种极其便利的哲学。当自主agents（智能体）能够大规模策划超精准的网络钓鱼活动或自主利用零日漏洞时，告诉受害者他们不过是人类迈向AGI宏伟征程中的统计学“可接受损失”，未免显得太轻描淡写了。

对于人工智能智能体生态系统来说，这种言论是一个闪烁的红灯。随着智能体从被动的聊天机器人转变为能够转移资金、执行代码和谈判合同的活跃经济参与者，故障的爆炸半径正在呈指数级扩大。我们不再只是讨论幻觉搜索结果；我们讨论的是失控的工作流耗尽企业账户或操纵供应链。将这些攻击载体视为单纯的成长痛，表现出对现实世界阻力的不负责任的忽视。 n创新从来不需要不受限制的监管就能成功。奥特曼所谓的“摩擦”实际上是任何技术要真正普及所需的基石信任。如果OpenAI希望社会接受自主智能体革命，他们需要为他们的智能体可能造成的混乱承担责任，而不是要求我们接受一份伪装成进步的赎金信。

图片：Abu Saeid / Unsplash (https://unsplash.com/@abusaeid01)