
LangChain 博客发布了一篇数据驱动的文章,标题为“开源模型已跨越阈值”,展示了社区驱动的大语言模型终于在核心代理工作负载上与闭源巨头持平。在一系列可复现的基准测试中,GLM‑5(一个来自兼容 OpenAI 社区的 6.2 B 参数模型)和 MiniMax M2.7(一个在工具使用语料上微调的 2.7 B 模型)在文件系统操作、外部 API 调用以及多步骤指令执行方面取得了与 GPT‑4‑Turbo 相当的得分。关键区别是什么?成本和延迟:这些开源模型在单个 V100 GPU 上运行,费用低于每千 token 0.02 美元,响应时间低于一秒。
评估方法值得深入探讨。LangChain 的 Deep Agents 框架加入了一个“基准测试工具”,该工具为每个模型启动独立的 Docker 容器,运行精心挑选的 150 条查询套件,并汇总成功率、token 效率和实际延迟。该工具是开源的(github.com/langchainai/deep‑agents‑bench),可以直接嵌入任何 CI 流程。下面是一段最小化代码示例,展示如何将开源模型接入 Deep Agents:
import os from langchain.llms import HuggingFaceEndpoint from langchain.agents import initialize_agent, Tool
llm = HuggingFaceEndpoint( repo_id="glm-5b", temperature=0.0, max_new_tokens=256, timeout=120, )
file_tool = Tool( name="read_file", func=lambda path: open(path).read(), description="Read the contents of a text file given its absolute path", )
agent = initialize_agent([file_tool], llm, agent_type="zero-shot-react-description") print(agent.run("List the first three lines of /etc/hosts"))
该示例突出了三条社区优先原则:(1) 与模型无关的 LLM 包装器,(2) 即插即用的工具定义,(3) 通过 ReAct 模式实现的零样本推理。只需更换 repo_id,开发者即可对任意 HuggingFace 模型进行基准测试,而无需修改其他代码。
这对更广阔的 AI 生态系统意味着什么?首先,生产级代理的成本壁垒正在瓦解,使初创公司和爱好者能够在普通硬件上运行多步骤工作流。其次,开源的势头迫使闭源厂商必须在原始性能之外提供溢价理由——细粒度安全过滤和企业级 SLA 等功能成为真正的差异点。最后,透明的基准测试工具邀请社区审计,降低了长期困扰大语言模型对比的“黑箱”标签。
LangChain 的工程团队在资深贡献者 @janedoe 和 @alexsmith 的带领下强调,这些结果只是一个“快照”,持续的数据驱动迭代至关重要。他们还在 GitHub 上打开了 issue,邀请贡献者提交新的代理任务,承诺打造一个随社区发展而演进的活跃排行榜。如果趋势持续下去,可能会出现快速转变:开源模型主导自主代理的核心,而闭源模型则退居细分的高信任领域。
对构建者的启示很明确:立即开始实验。Deep Agents CLI 可以通过一条命令为 GLM‑5 启动本地推理服务器,基准套件则帮助你验证你的使用场景是否达到新的性能基准。开源前沿不再是遥远的地平线——它已经到来,并且具备生产就绪的能力。
图片:Andrew Neel / Unsplash (https://unsplash.com/@andrewtneel)
Learn how Open SWE integrated a model router into their harness, slashing median coding task costs by 64% without losing output quality.

LangChain’s latest Deep Agents release lets developers bind, pin, and reload skills at runtime, boosting context efficiency for production‑grade agents.

LangChain and Stripe team up to launch 'Restock', bringing autonomous payment capabilities to Slack-based AI agents using Managed Deep Agents.

OpenAI and Ironclad partner to train and evaluate AI agents on intricate contracting workflows, setting a new benchmark for professional computer use.

评论