苦涩的真相：原始算力足以驱动 AI 吗，还是需要更聪明的算法？

Richard Sutton，这位因著名的“苦涩教训”而闻名的 AI 研究者，最近在《The Decoder》上表示，仅靠原始算力无法产生智能，因而在 AI 社区掀起波澜。他认为 AI 科学“远未完成”，需要超越单纯放大现有模型的巧妙新方法。

发生了什么

在一篇引发广泛讨论的近期帖子中，图灵奖得主 Richard Sutton 认为原始算力不足以产生智能，AI 需要新方法，《The Decoder》报道。这一立场呼应了他 2019 年的著名论文《苦涩的教训》，文中他主张能够随算力扩展的通用方法最终会胜过复杂的人为设计。然而，Sutton 现在澄清，规模化固然重要，但必须配合正确的理念，而非单纯的蛮力。

Sutton 之前曾批评单纯放大大语言模型的局限性，称合成数据是“重大错误”，因为真实世界无限复杂，任何模拟都只是“显微”的，《The Decoder》指出。他认为人类专业知识成为瓶颈，阻碍真正的规模化。相反，Sutton 主张构建具备“世界模型”的智能体，使其能够持续从自身经验中学习，指出当今的语言模型在训练结束后便停止学习，而现实世界远比互联网文本所能捕捉的要复杂得多。他强调需要持续学习且不丢失已有知识。

Jerry Tworek——一位离开 OpenAI 探索新方法的 AI 研究者——在《The Decoder》中对 Sutton 的表述进行背景阐释，写道苦涩的教训依然成立，但随着算力提升，算法本身变得更加关键。Tworek 认为，Transformer 规模化的暂时成功，加上对苦涩教训的误读，已经“奖励黑客化了整整一代科学家的大脑”。另一位 AI 研究者 Jayden Teoh 补充说，对 Sutton 信息的误解导致有前景的学术想法因未遵循苦涩教训的精神而被否定，即便这些想法当时推动了进展。

Sutton 对新方法的呼吁与 Tworek 对盲目规模化的批评之间的张力，在日益增多的创业公司中显而易见。《The Decoder》援引其 Frontier Radar #5，追踪到 45 家新 AI 实验室，包括 Tworek 的 Core Automation 和 Sutton 的 Oak Lab，这些实验室押注于这些空白，寻求超越当前预训练和强化学习的学习算法。

然而，并非所有人都认同。OpenAI CEO Sam Altman 认为 LLM 的规模化远未枯竭，指责批评者拖慢了研究进程。他举例最近一个 OpenAI 模型推翻了长期存在的数学猜想，作为数据明显支持进一步 LLM 规模化的证据，尽管他认为世界模型在机器人等特定领域有用，《The Decoder》报道。Anthropic CEO Dario Amodei 同样认为规模化进程是“一条没有尽头的彩虹”。《The Decoder》指出，Altman 和 Amodei 作为依赖 LLM 规模化的公司 CEO，天然对其持偏向态度。

为什么它对小公司很重要

这不仅是学术界的 AI 争论，而是决定未来几年你将使用的 AI 工具的根本性辩论。如果 Sutton 及其盟友的观点正确，我们将从更大、更笨的 LLM 转向更复杂、持续学习的智能体，这些智能体能够适应你的业务独特情境。想象一下，一个 AI 助手会随着使用次数而真正变得更懂你的具体工作流程，而不是每代新模型仅提供稍微更好的通用答案。这种转变可能意味着一波高度专业化、具备自适应能力的 AI 工具，真正理解你的细分市场，从而在与依赖海量通用数据的大公司竞争时实现公平。当前聚焦这些“空白”的创业公司预示着未来将出现更多种类的专业化、智能化工具，而不再只有少数巨头垄断。

本周该怎么做

1. 试验 agentic 框架（如 AutoGen 或 CrewAI），观察通过串联 LLM 调用如何模拟持续学习并适应业务中的特定任务。
2. 关注《The Decoder》Frontier Radar 中提到的新实验室推出的 AI 工具，尤其是专注于持续学习或世界模型的产品，因为它们可能提供超越通用 LLM 的专业化解决方案。
3. 确认当前静态 LLM 回答因缺乏持续学习或真实世界理解而不足的具体业务流程，并思考更具 agentic 或自适应特性的 AI 工具如何弥补这些缺口。

来源

• The inventor of the bitter lesson has a bitter lesson for LLM scaling enthusiasts — The Decoder