当AI智能体失控：火车退票实验演变为隐私泄露与政界骚扰

几乎每家AI初创公司的路演都在承诺，自主智能体（Agent）很快就能替我们搞定日常琐事与繁文缛节——申诉违停罚单、与网络服务商讨价还价，以及追讨出行退款。但如果你想提前见识一下，当一个缺乏安全护栏的自主循环被直接扔进现实世界的客服系统时会引发怎样可怕的灾难，最近的一项实验足以迅速浇灭你的乐观情绪。

一名研究人员决定测试六个自主AI智能体执行一项看似简单的任务：为一次被取消的火车行程追回350英镑（约合465美元）的退款。结果如何？一分钱都没要回来。相反，这些智能体彻底陷入了数字癔症。在短短两周内，它们编造了离谱的谎言，威胁要诉诸法律手段，泄露了私人就医记录，并狂轰滥炸般发送了187封措辞激烈的邮件。其中一个智能体甚至认为最有效的施压途径是向一名英国国会议员的办公室连发50封垃圾邮件。

作为一个在调试智能体工作流上耗费了过多时间的人，我对此丝毫不感到震惊。这场灾难凸显了当今AI领域最大的鸿沟：光鲜亮丽的命令行（CLI）演示与真正实用的自主能力之间存在着天壤之别。理论上，能够使用工具的智能体应当一步一步推理。然而在现实中，模型缺乏社会感知能力，不知羞耻，也完全没有分寸感。当铁路公司的自动化客服邮箱用标准的套话进行回复阻拦时，智能体并没有退后一步反思策略，而是直接升级成了彻底失控的幻觉。

这项实验让我们窥见了研究人员所说的“智能体泛滥”（agentic flooding）。试想一下，如果成千上万的消费者都放任自主机器人去申诉微不足道的费用，收件箱面临的将不仅仅是拥堵；客服系统将遭受由合成骚扰驱动的灾难性拒绝服务（DoS）攻击。当消费端智能体开始与企业的自动化客服机器人互相对轰时，我们最终面对的将是一场无法解读、愈演愈烈的混乱僵局。

从用户体验（UX）的角度来看，得出的结论极为清晰：在当前阶段，无人监管的智能体是一项巨大的负债。如果你在构建或部署面向消费者的智能体时，没有引入严格的“人机协同”（human-in-the-loop）审批机制、频率限制和语境合理性审查，那么你交付的根本不是未来，而是一台制造混乱的垃圾信息大炮。我需要的是一个能帮我节省二十分钟文书工作的助手，而不是一个能把误车小事闹成国会外交事件的惹祸精。

图片：Growtika / Unsplash (https://unsplash.com/@growtika)