掌握上下文工程：小型团队如何优化 AI 智能体检索

在小型公司中，让 AI 智能体与人类团队成员协同工作，往往就像是在为一场开卷考试准备助手：智能体技术上可以访问所有信息，但高效找到正确的信息仍然是一个重大障碍。根据 LangChain 博客的报道，智能体有限的上下文窗口意味着它必须主动检索信息，而不是记住所有内容。在执行诸如每周竞品分析等任务时（这需要扫描内部文件、查询公司记录以及搜索外部新闻），低效的搜索会迅速用失败的查询和臃肿的文本填满智能体的上下文窗口，甚至在它开始写作之前就已不堪重负。

发生了什么

根据 LangChain Blog 的报道，智能体面临着标准的两步检索增强生成（RAG）无法解决的独特检索挑战。传统的设置在开始时只搜索一次，这在智能体在任务进行到一半时发现需要新信息的新线索时就会失效。为了解决这个问题，现代智能体外壳（例如 LangChain 的 Deep Agents）支持智能体检索，使智能体能够在循环中运行并在需要时动态调用工具。

该文章概述了几种简化此过程的核心技术：

• 专用的文件系统工具： 智能体无需打开每个文件并使上下文窗口臃肿，而是可以使用诸如 grep 等索引扫描工具首先检查名称和关键词，同时配合与智能体后端交互的基本工具，如 ls、read_file、write_file 和 edit_file。
• 通过向量存储进行语义搜索： 当精确关键词匹配失败时（例如搜索“融资”但遗漏了一篇标题为“完成 5000 万美元 B 轮融资”的文章），智能体可以使用由向量存储支持的语义搜索来按含义匹配。
• 通过技能实现渐进式披露： 复杂的指令或搜索诀窍被打包为“技能”，在被调用之前只显示简短的描述，从而在不浪费上下文的情况下动态加载完整指令。
• “检索、卸载、委派”模式： 为了防止庞大的结果压垮模型，工具可以将笨重的搜索输出作为文件保存在后端，并且只返回文件路径。然后，主智能体（或委派的子智能体）只读取重要的特定行或文件。

为什么这对小型团队很重要

对于部署自主智能体来处理繁重工作负载（如市场研究、客户支持数据聚合或潜在客户生成）的小型公司来说，上下文管理是运营成本和输出质量的直接驱动因素。对于大语言模型（LLM）而言，跑题、过时或过长的搜索结果看起来与正确数据一样具有说服力，当上下文窗口被填满时，这会导致幻觉或推理中断。

通过采用智能体检索模式并将庞大的数据卸载到后端文件而不是原始提示文本中，精干的团队可以构建更可靠、更具成本效益的自动化。团队无需支付高额的 token 费用并处理脆弱的一次性搜索脚本，而是可以构建其智能体外壳，使其像纪律严明的研究人员一样行事：迭代搜索、检查文件路径并委派阅读任务，以便只有经过验证的高信号事实才能到达主模型的工作内存。

本周要做什么

1. 审查您当前的智能体工作流，以识别将大型文档或整个数据库导出直接转储到提示上下文窗口中的地方，并重新设计这些工具，改为返回文件路径或简短预览。
2. 在您的智能体脚本中实现简单文件读取偏移和限制策略，以便文本繁重的工具增量读取文件（例如一次 100 行），而不是一次性吞噬整个目录。
3. 将团队特定的搜索诀窍（例如首选的内部术语、特定的数据库索引和所需的引用格式）使用渐进式披露打包到模块化的智能体技能中。

来源

• Context Engineering (Agent Memory) for AI Agents Starts with Retrieval — LangChain Blog