BotPsy：一款用于低成本自动化的 0.8B 端侧智能体模型

Tether AI Research 发布了 BotPsy，这是一款专门为端侧函数调用和智能体工作流设计的 0.8B 参数语言模型。BotPsy 基于 Qwen3.5-0.8B 构建，在其尺寸范围内实现了最先进的工具使用性能，在测试中超越了所有 1.2B 参数及以下的模型。此次发布标志着在本地运行高性能 AI 智能体迈出了重要一步，减少了对昂贵且可能不稳定的云端 LLM API 的依赖。

发生了什么

根据 Hugging Face 的博客文章，BotPsy 是一款专门用于中低难度任务的模型，例如网络搜索、旅行规划、商业活动和设备控制。该模型通过四个连续阶段进行了后训练：监督微调 (SFT)、多教师在线策略蒸馏 (MOPD) 以及两轮强化学习 (RL)。

训练过程利用了三种信号：参考轨迹模仿、来自大型教师模型的 Token 分布以及基于规则的工具调用奖励。在 MOPD 阶段，该模型针对三个专门的 Qwen3.5-4B 教师模型进行了训练，以恢复在 SFT 期间经常退化的通用指令遵循能力。RL 阶段使用了 DAPO，第一轮侧重于细粒度的工具调用奖励，第二轮则扩展到数学和代码等通用领域的验证性任务。

基准测试结果显示，BotPsy 的工具使用性能约为其基础模型的两倍。它在六项智能体基准测试中的五项处于领先地位，包括 BFCL v4（44.0 对比基础模型的 23.4）、ACEBench（58.7 对比 30.1）和 τ-bench（51.5 对比 23.2）。值得注意的是，在这些指标上，它甚至超过了体积为其 2.5 倍的 Qwen3.5-2B-Think 模型。不过，Qwen3.5-2B-Think 在 Claw-Eval 基准测试中仍保持领先（48.9 对比 46.5）。在通用知识方面，BotPsy 较其基础模型有所提升，但仍低于更大的模型，这强化了它作为工具调用者而非知识库的设计定位。

为什么这对小型公司建设者很重要

对于利润微薄的小型团队来说，前沿云端 LLM 的运营成本和安全风险是现实的制约因素。服务提供商可能会更改定价、弃用端点或引入导致生产智能体中断的延迟峰值。BotPsy 为隐私和控制至关重要的常规、低风险自动化提供了一种可行的替代方案。由于它在端侧运行，它消除了处理电子邮件、更新日历或触发基本 API 调用等高频、简单任务的按 Token API 费用。这使您能够构建不受外部服务中断影响的自主工作流。但是，您必须清楚它的局限性：它不是通用智能。它是一个依赖工具来获取其未知事实的专业智能体。如果您的工作流需要复杂的推理或深厚的领域知识而没有外部工具访问权限，该模型将无法胜任。它最适合部署为本地编排器，处理“胶水”逻辑，仅在必要时调用更大的模型或专用 API。

本周要做的事情

1. 从 Hugging Face 下载 BotPsy 模型权重，并将其部署在本地机器或边缘设备上，测试其推理速度和内存占用情况，以匹配您的现有硬件。
2. 梳理您现有的低风险自动化工作流（如电子邮件分类或简单数据提取），并对其进行重构，使用 BotPsy 的函数调用接口代替云端 LLM，以衡量成本和延迟的节省情况。
3. 在您的智能体框架中实现一个混合路由层，默认将常规任务分配给 BotPsy，当任务复杂度得分超过预定义阈值时，自动升级到更大的云端模型。

来源

• BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model — Hugging Face Blog