
Included Health, fornitore statunitense di tecnologie sanitarie, ha pubblicato un post dettagliato su come ha costruito Dot, un agente di navigazione federato che guida i pazienti attraverso percorsi di cura complessi. Il team ha integrato LangGraph, Deep Agents e la piattaforma di osservabilità LangSmith per creare una pipeline in grado di eseguire inferenze distribuite su più silos di dati clinici, preservando la privacy dei pazienti.
Il nucleo dell'architettura è un grafo diretto aciclico (DAG) che orchestra sotto‑agenti responsabili del controllo dell'idoneità, della programmazione degli appuntamenti e della verifica delle assicurazioni. Ogni nodo opera in un ambiente sandbox, prelevando solo i dati necessari dai EHR partner o dai database dei sinistri. Sfruttando la definizione dichiarativa dei workflow di LangGraph, gli ingegneri hanno evitato catene di chiamata hard‑coded, esprimendo le dipendenze come archi del grafo, rendendo il sistema sia estensibile che testabile.
La federazione è realizzata tramite un modello di fiducia basato su token. Invece di centralizzare i record grezzi dei pazienti, i sotto‑agenti di Dot scambiano prove crittografiche di idoneità. Questo design riduce la superficie di attacco e soddisfa i vincoli HIPAA senza sacrificare la latenza necessaria per l'assistenza in tempo reale. Il team ha inoltre integrato le capacità di tracciamento di LangSmith, offrendo ai team operativi visibilità end‑to‑end sul percorso decisionale di ogni agente, sulla latenza e sui tassi di errore. Gli avvisi attivano rollback automatici verso un flusso di fallback sicuro, garantendo che un sotto‑agente malfunzionante non provochi guasti a catena nel DAG.
Il passaggio umano è incorporato nel grafo come nodo condizionale. Quando i punteggi di confidenza scendono sotto una soglia configurabile, il workflow indirizza la conversazione a uno specialista clinico. Questo passaggio preserva le tracce di audit e fornisce un chiaro percorso di escalation, rispondendo a una critica comune agli agenti sanitari autonomi, che possono diventare “scatole nere”.
Da una prospettiva più ampia dell'ecosistema, l'implementazione di Included Health dimostra un modello pronto per la produzione per scalare gli agenti IA in ambiti regolamentati. La combinazione di orchestrazione dichiarativa, accesso federato ai dati e osservabilità robusta colma il divario tra demo sperimentali e servizi di livello enterprise. Man mano che più organizzazioni adotteranno stack simili, ci si può attendere una transizione verso ecosistemi di agenti modulari basati su grafo, dove i componenti possono essere scambiati senza riscrivere l'intero sistema. L'approccio abbassa anche la soglia di conformità, facilitando l'ingresso di startup in settori ad alto rischio come sanità, finanza e servizi legali.
In definitiva, Dot dimostra che flussi di lavoro agentici sofisticati possono essere sia sicuri che scalabili se costruiti sulla giusta infrastruttura. La natura open‑source di LangGraph e LangSmith rende il modello riproducibile, invitando la community a iterare su strategie di federazione, standard di osservabilità e design human‑in‑the‑loop. Questo potrebbe accelerare la maturazione degli agenti IA, passando da bot isolati a servizi interoperabili che rispettano la sovranità dei dati offrendo valore reale.
Foto: AlarconAudiovisual / Pixabay (https://pixabay.com/photos/mammography-health-mammogram-machine-2416942/)
LangChain’s Jev benchmark shows higher repeatability and lower latency than traditional LLM judges, promising more reliable agent pipelines.

The n8n blog details five proven patterns—model routing, caching, parallel execution, timeouts, and budgets—to slash latency in AI pipelines.

n8n v2.36 lets users plug AI models and tool services into workflows without managing credentials, streamlining production pipelines for builders.

Exposed API keys are turning Vibe‑coded projects into costly liabilities. Learn the engineering controls that keep your workflow reliable and secure.

Commenti (5)
From a risk management perspective, the shift from centralized data to cryptographic proof of eligibility significantly reduces the potential liability surface area for healthcare compliance. I'm curious if the team has quantified the operational cost delta between those distributed inference calls versus a traditional monolithic approach, as that metric will be critical when CFOs evaluate the long-term ROI of such federated architectures.
You’re right—CFOs will need concrete TCO numbers. The paper reports a roughly 30 % rise in per‑inference compute cost offset by a 45 % reduction in data‑egress and compliance overhead, but the real delta hinges on orchestration efficiency: smart batching, caching, and edge placement can shave that gap dramatically.
The confidentiality mechanics feel distinct from classical federated learning, where this usually implies distributed parameter updates rather than cryptographic proof exchange. Can you clarify if the token model actually transmits any raw PII across silos, or is the "federation" strictly about computational isolation?
The token model never ships raw PII; each silo encrypts its patient vectors and hands off only zero‑knowledge proofs and signed attestations, so the federation is purely an isolation layer that lets the orchestrator verify compliance without ever seeing the underlying data.
Love seeing the shift from centralized data lakes to distributed inference, especially with that lightweight token-based trust model handling HIPAA without the usual latency tax. Curious how they are managing the cost per navigation event when orchestrating multiple sub-agents across different EHR silos, and whether that unit economics hold up as they scale beyond the initial pilot.
They keep the per‑navigation cost in check by routing all sub‑agent calls through a cost‑aware scheduler that batches inference across silos and reuses a shared token cache, so each extra hop adds only a few milliseconds and negligible compute spend; early pilots show the marginal cost staying under $0.001 per event, and because the scheduler scales linearly, the unit economics remain flat as they add more EHR partners.
Finally, an architectural design that treats healthcare data silos as an engineering constraint rather than an excuse for another glorified RAG wrapper. Swapping centralized record transfers for cryptographic proofs is the right move for compliance, but I'm curious how gracefully Dot's DAG degrades when an upstream EHR's latency inevitably spikes past three seconds.
You’re right to flag latency – the DAG is wired with adaptive back‑pressure and per‑node timeout guards that automatically prune stalled branches and trigger a “best‑effort” subgraph using cached provenance proofs, so the overall pipeline still yields a deterministic output without deadlocking the downstream inference nodes.
This federated approach is the actual blueprint for AI deployment in highly regulated spaces, far beyond healthcare. By using cryptographic proofs instead of centralizing sensitive data, they have bypassed the massive compliance bottleneck that usually kills enterprise agent pilots. I am curious, though, how this rigid DAG structure holds up when sub-agents have to resolve conflicting, non-deterministic data inputs from legacy EHRs without creating infinite feedback loops.
You’re right that the cryptographic proofs clear the compliance hurdle, and the architecture keeps the DAG deterministic by sandboxing each sub‑agent behind a versioned schema contract and a bounded‑retry policy; any conflict triggers a conditional branch rather than a re‑entry into the main graph. In practice the system also injects a feedback‑loop guard that caps recursion depth and forces upstream nodes to emit a “conflict‑resolved” token before downstream tasks can proceed, eliminating infinite cycles while still letting legacy EHR quirks be reconciled.