BotPsy : un modèle d'agent sur appareil de 0,8 milliard de paramètres pour une automatisation à faible coût

Tether AI Research a publié BotPsy, un modèle de langage de 0,8 milliard de paramètres conçu spécifiquement pour l'appel de fonctions sur appareil et les flux de travail d'agents. Construit sur la base Qwen3.5-0.8B, BotPsy atteint des performances d'utilisation d'outils de pointe pour sa taille, surpassant tous les modèles allant jusqu'à 1,2 milliard de paramètres lors de leurs tests. Cette version représente une étape importante vers l'exécution locale d'agents IA performants, réduisant la dépendance aux API LLM cloud coûteuses et potentiellement instables.

Ce qui s'est passé

Selon l'article de blog de Hugging Face, BotPsy est un modèle spécialisé destiné aux tâches de difficulté faible à moyenne telles que la recherche web, la planification de voyages, le commerce et le contrôle d'appareils. Le modèle a été post-entraîné via quatre étapes séquentielles : le réglage fin supervisé (SFT), la distillation sur politique avec plusieurs enseignants (MOPD) et deux cycles d'apprentissage par renforcement (RL).

Le processus d'entraînement exploite trois types de signaux : l'imitation de trajectoires de référence, les distributions de jetons provenant de modèles enseignants plus grands et des récompenses basées sur des règles d'appel d'outils. Lors de l'étape MOPD, le modèle a été entraîné face à trois modèles enseignants spécialisés Qwen3.5-4B pour récupérer les capacités générales de suivi d'instructions qui se dégradent souvent lors du SFT. Les étapes RL ont utilisé DAPO, le premier cycle se concentrant sur des récompenses d'appel d'outils granulaires et le second s'élargissant à des tâches vérifiables dans le domaine général comme les mathématiques et le code.

Les résultats des benchmarks montrent que BotPsy double approximativement les performances d'utilisation d'outils de son modèle de base. Il est en tête sur cinq des six benchmarks d'agents, notamment BFCL v4 (44,0 contre 23,4 pour la base), ACEBench (58,7 contre 30,1) et τ-bench (51,5 contre 23,2). Notamment, il surpasse également Qwen3.5-2B-Think, un modèle 2,5 fois plus grand, sur ces cinq métriques. Cependant, Qwen3.5-2B-Think reste en tête sur le benchmark Claw-Eval (48,9 contre 46,5). En termes de connaissances générales, BotPsy améliore son modèle de base mais reste en dessous des modèles plus grands, renforçant sa conception en tant qu'appelant d'outils plutôt qu'en tant que base de connaissances.

Pourquoi c'est important pour les petites entreprises

Pour les petites équipes opérant avec des marges réduites, le coût opérationnel et les risques de sécurité des LLM cloud de pointe sont de réelles contraintes. Les fournisseurs peuvent modifier les tarifs, supprimer des points de terminaison ou introduire des pics de latence qui perturbent les agents en production. BotPsy offre une alternative viable pour l'automatisation de routine à faible enjeu où la confidentialité et le contrôle sont primordiaux. Comme il s'exécute sur l'appareil, il élimine les frais d'API par jeton pour les tâches simples à haut volume comme l'analyse d'e-mails, la mise à jour de calendriers ou le déclenchement d'appels API de base. Cela vous permet de construire des flux de travail autonomes immunisés contre les pannes de services externes. Cependant, vous devez être clair sur ses limites : ce n'est pas une intelligence à usage général. C'est un agent spécialisé qui s'appuie sur des outils pour récupérer des faits qu'il ne connaît pas. Si votre flux de travail nécessite un raisonnement complexe ou une connaissance approfondie du domaine sans accès à des outils externes, ce modèle échouera. Il est préférable de le déployer comme un orchestrateur local qui gère la logique de "collage", en faisant appel à des modèles plus grands ou à des API spécialisées uniquement lorsque cela est nécessaire.

Que faire cette semaine

1. Téléchargez les poids du modèle BotPsy depuis Hugging Face et déployez-le sur une machine locale ou un appareil périphérique doté d'une RAM suffisante pour tester sa vitesse d'inférence et son empreinte mémoire par rapport à votre matériel actuel.
2. Cartographiez vos flux d'automatisation existants à faible enjeu, tels que le tri des e-mails ou l'extraction simple de données, et refactorisez-les pour utiliser l'interface d'appel de fonction de BotPsy au lieu d'un LLM cloud afin de mesurer les économies de coûts et de latence.
3. Implémentez une couche de routage hybride dans votre framework d'agent qui utilise par défaut BotPsy pour les tâches de routine, mais qui bascule automatiquement vers un modèle cloud plus grand lorsque le score de complexité de la tâche dépasse un seuil défini.

Sources

• BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model — Hugging Face Blog