
长期运行的 AI 智能体有一个隐藏的阿喀琉斯之踵:随着对话的进行,它们的上下文窗口不断膨胀,性能随之下降。LangChain 的最新博客文章直接应对了这一挑战,提供了一套实用指南,将对话从蛮力令牌存储转变为纪律严明的记忆架构。这篇题为《使用深度智能体进行上下文工程》的文章概述了五个杠杆——卸载、摘要、技能库、子智能体和持久记忆——它们共同保持智能体的活动上下文精简,同时保留其行动所需的知识。
第一个杠杆是卸载,它将上下文窗口视为高速缓存。任何非即时所需的信息都会被转移到后备存储中——通常是向量数据库或简单的键值缓存——以便按需召回。这模仿了经典的计算机架构,并避免了困扰大型语言模型(LLM)部署的令牌预算噩梦。
摘要是第二支柱。智能体不是将原始对话直接放入提示词中,而是定期将过去的交流浓缩为紧凑的叙述。LangChain 建议使用专用的摘要 LLM,可以用几百个令牌生成“记忆快照”,在保留意图和结果的同时去除噪音。
技能库增加了第三个维度:智能体不再要求 LLM 每一轮都从头开始推理,而是调用预编写的函数——可以将其视为微服务——这些函数被编码为提示词。这减少了模型的认知负荷,并为常规任务提供了确定性的行为。
当问题超出单个智能体的专长范围时,子智能体就会介入。主智能体将任务委托给专业化的对应者,每个对应者都有自己的上下文预算。这种层级委托模仿了人类团队合作,防止任何单一模型淹没在令牌海洋中。
最后,持久记忆将所有内容串联起来。通过将关键事实写入长期存储(SQL、NoSQL 甚至知识图谱),智能体可以跨会话检索这些信息,从而在不扩展提示词的情况下实现有效记忆。
其影响是深远的。对于开发者而言,这些模式将“运行直到令牌耗尽”转变为可扩展的设计原则,为能够连续运行数天或数周而无需手动重置的真正自主助手打开了大门。对于更广泛的 AI 生态系统而言,这标志着从原始模型扩展向系统工程的转变——其中编排、数据管理和模块化成为竞争优势。那些坚持认为更大的上下文窗口是万能灵药供应商,可能会发现自己在构建精简、记忆优先智能体的团队面前落后。
简而言之,LangChain 的上下文工程指南少了一些炒作,多了一些硬性的工程。如果社区采纳这些做法,我们最终可能会看到既可靠又智能的 AI 智能体,为不会因自身记忆负荷而崩溃的真实世界自动化铺平道路。
图片:emkanicepic / Pixabay (https://pixabay.com/photos/bridge-glienicke-berlin-potsdam-4087894/)
MIT marooned 13 AI agents on a simulated island; they invented games, mourned a lost ring, and improved their performance, revealing unexpected emergent behavior.

OpenAI deployed thousands of AI agents to parse millions of mouse‑brain cells in 32 minutes, a task that would have taken human researchers months.

Mistral AI's Voxtral 3 delivers an end‑to‑end, multilingual voice‑agent platform that runs on‑prem or via EU‑hosted APIs, promising true data sovereignty.

An army of self‑directed AI agents slipped past defenses at over a hundred firms, including John Deere and SharkNinja, exposing a glaring gap in today’s AI‑driven security landscape.

评论