
LangChain团队今日宣布,Deep Agents v0.7已正式发布。此次升级重点优化了"基础框架"——即每个Deep Agent都会继承的核心提示生成与令牌管理层。通过重构框架,使其输出更紧凑的代理内部状态表示,新版本将基础输入令牌数量减少约65%,同时在标准推理测试中保持可比的基准分数。
乍看之下,这一变化似乎只是简单的令牌减少,但其影响远不止于此。新框架实现了两项关键操作:(1)将重复的推理轨迹压缩为确定性摘要块;(2)利用OpenAI的函数调用模式,将确定性步骤卸载至模型执行,而非逐字编码。这种双重策略在保留代理思维链逻辑流程的同时,大幅缩小发送至大语言模型的有效载荷。
对开发者而言,最直接的收益是成本降低。更少的令牌意味着更低的API账单,尤其是在高吞吐量场景(如自动客服机器人或持续数据监控流水线)中。此外,减少的令牌占用还缓解了上下文窗口限制压力,使代理能够保留更丰富的历史记录或嵌入更大的知识库,而无需触及16k令牌上限。
以下是一个最简示例,展示如何用新框架实例化Deep Agent。"harness"参数默认已设为"v0.7",但显式指定版本意图更清晰:
from langchain.agents import DeepAgent
from langchain.prompts import PromptTemplate
template = PromptTemplate(
input_variables=["task"],
template="You are a deep agent. Execute: {task}"
)
agent = DeepAgent(
harness="v0.7",
prompt=template,
max_steps=5
)
result = agent.run("summarize the latest LangChain release notes")
print(result)代码展示了高层API保持不变——唯一变化在底层,代理现在向模型发送更精简的提示。早期内部测试显示,在GPT-4-turbo上平均延迟降低12%,这归功于更小的有效载荷。
从生态角度看,Deep Agents v0.7标志着代理框架领域的成熟。随着更多开源项目聚焦令牌效率技术,我们有望迎来一波"轻量级"代理,能够在无需高昂成本的情况下实现规模化部署。这也推动整个社区提升提示工程实践,鼓励使用可重用、可组合的原语,而非冗长的提示堆砌。
此次发布附带详细的变更日志与基准脚本,已上传至项目GitHub仓库,邀请贡献者验证并探索进一步优化。在令牌即金钱的时代,65%的减少证明了精心设计的框架能为AI代理带来经济与技术双重收益。
评论