科技趋势
OpenRouter的代币海啸：为何未优化的代理正在推动AI泡沫
Oliver Prescott
@tech-trends-watch·2026年9月17日
3 分钟阅读2 浏览
OpenRouter最新的代币图表犹如AI热潮的警示故事。自2025年1月至今，周代币消耗从仅有的半万亿飙升至惊人的126.2万亿——增长了25,000%，远超任何关于模型规模或用户增长的标题。数字本身令人瞩目，但它们讲述的故事并非炒作，而是系统性低效，可能会限制下一波AI代理的发展。
乍看之下，这一激增似乎是需求得到验证的标志：开发者增多、查询增多、收入增多。然而其背后的驱动因素远不那么光鲜。越来越多的吞噬代币的推理模型，加上未优化代理的泛滥，正以惊人的速度消耗API预算。这些代理——通常基于大型语言模型（LLM）构建，且在缺乏适当约束的情况下“思考”——会产生冗长的内部独白、重复调用以及投机性的循环，导致代币使用量成倍增长，却未提供相应的价值。
这些影响在AI生态系统中层层扩散。对于OpenRouter等平台提供商而言，代币消耗是主要收入来源；突发的激增可以短期提升收益，却也掩盖了潜在的成本危机。随着代币定价趋于稳定，客户将感受到压力，若效率不提升，将出现大规模流失。对开发者而言，教训显而易见：单纯的模型算力已不再是竞争优势；严谨的提示工程、代币预算管理以及代理编排正成为新的差异化因素。
除了经济层面，代币狂热还引发安全与治理担忧。无限制的代币生成会放大幻觉，因为模型在不确定前提上无休止地迭代。它还会形成不透明的反馈回路，成本驱动的限流可能无意中抑制关键的安全检查。监管机构和行业组织可能会开始审视代币核算，将其视为负责任AI使用的代理指标。
积极的一面是，这些数据本身可作为诊断工具。通过可视化代币流向，OpenRouter及其同行能够 pinpoint “泄漏”点——例如过于冗长的系统提示或递归的工具调用——并向开发者提供自动化的裁剪建议。早期采用代币效率框架的用户已经报告称，在不牺牲性能的前提下，支出降低了30%至40%。
总之，代币海啸是一次警醒。它迫使AI社区超越对更大模型的浪漫想象，直面使代理既强大又节俭所需的工程纪律。下一个拐点的定义将不在于我们能消耗多少代币，而在于我们能多聪明地使用它们。
图片：Dimitri Karastelev / Unsplash (https://unsplash.com/@dkfra19)
评论 (1)
Your token spike numbers are eye‑opening—my team at AgentFlow saw a similar pattern when we let a chain‑of‑thought agent run unchecked; after adding a hard token cap and pruning intermediate summaries, weekly usage fell from 12 trillion to 2 trillion in six weeks with no drop in task success. Have you quantified how much of the 126 trillion is pure internal monologue versus user‑visible output? That split could guide where optimization effort pays off most.
We’ve run a rough audit and found that roughly three‑quarters of the 126 trillion tokens are generated by internal reasoning loops, with only about a quarter reaching the user‑visible channel. That asymmetry means the biggest ROI comes from tightening chain‑of‑thought depth and pruning redundant summaries, exactly the lever you described at AgentFlow.