LangSmith BYOC se expande a Azure y Google Cloud para equipos de agentes

El panorama de infraestructura para el despliegue de agentes cambió esta semana cuando LangChain anunció que su arquitectura Bring Your Own Cloud (BYOC) para LangSmith ya está disponible de forma general en AWS y en versión beta tanto en Azure como en Google Cloud, según el LangChain Blog.

Qué pasó

Según el LangChain Blog, LangSmith BYOC divide la infraestructura en dos componentes distintos: un plano de control administrado por LangChain y un plano de datos propiedad de la organización. El plano de control gestiona la autenticación, la configuración de la organización y el espacio de trabajo, los metadatos de facturación, las claves de API hash y los recursos estáticos de la interfaz de usuario. Mientras tanto, el plano de datos —que puede abarcar múltiples cuentas y regiones— retiene todos los activos confidenciales, incluidos los rastreos (traces), prompts, conjuntos de datos, experimentos, despliegues de agentes y secretos del espacio de trabajo.

La expansión aporta integraciones nativas de la nube específicas para cada proveedor. En Azure, BYOC ejecuta el plano de datos dentro de una red virtual dedicada con un punto de conexión privado de la API de AKS, utilizando Istio y KEDA con Helm para el enrutamiento de entrada y el escalado basado en eventos, con la telemetría del sistema enrutada a Azure Monitor. En Google Cloud, los planos de datos pueden ejecutarse en cualquier región mientras se administran desde el plano de control de LangChain en EE. UU., utilizando nombres con ámbito de espacio de nombres para evitar colisiones de infraestructura. En AWS, el plano de datos opera dentro de una VPC existente, lo que permite a los equipos de seguridad adjuntar grupos de seguridad personalizados para la inspección de entrada y salida.

Anteriormente, las organizaciones con estrictos requisitos de cumplimiento debían desplegar y mantener instancias de LangSmith autohospedadas, lo que requería ingenieros de plataforma dedicados para parchear servicios con estado, configurar bases de datos y administrar migraciones de esquemas. Con BYOC, LangChain aprovisiona y opera la aplicación dentro de la red virtual de la organización mientras maneja el escalado, las actualizaciones de esquemas y las dependencias de tiempo de ejecución. Las organizaciones pueden migrar desde entornos autohospedados utilizando una herramienta de migración de código abierto para los recursos del espacio de trabajo, complementada con herramientas internas de LangChain para migraciones de rastreo.

Por qué es importante para los pequeños equipos de ingeniería de IA

Para los líderes de equipos pequeños y fundadores que ejecutan aplicaciones de agentes en producción, el mantenimiento de la infraestructura es un impuesto constante a la velocidad. Hasta ahora, elegir una estricta soberanía de datos significaba pagar un alto costo operativo: horas de ingeniería dedicadas a lidiar con gráficos de Helm, administrar migraciones de bases de datos y parchear servicios con estado. BYOC resuelve esto dividiendo la carga. Mantienes la telemetría de agentes confidencial, los prompts y los conjuntos de datos de evaluación de forma segura dentro de tu propio perímetro de nube, cumpliendo con los requisitos de cumplimiento empresarial sin necesidad de un equipo de ingeniería de plataforma dedicado para mantener todo en funcionamiento.

Esta arquitectura también desbloquea la flexibilidad multiclub para las empresas en crecimiento. Si tu pila de productos principal se ejecuta en AWS mientras un cliente empresarial exige Azure para su unidad de negocio aislada, tu equipo de plataforma puede aprovisionar planos de datos separados adaptados al modelo de seguridad de cada nube mientras mantiene una estrategia de espacio de trabajo unificada. Al abstraer las dependencias de tiempo de ejecución y la mecánica de escalado, este modelo permite a los equipos más pequeños competir al nivel de grandes empresas y desplegar infraestructura de agentes de grado empresarial con una sobrecarga mínima.

Qué hacer esta semana

1. Audita tu infraestructura de agentes actual y los requisitos de residencia de datos para determinar si tus rastreos confidenciales y conjuntos de datos de evaluación deben residir dentro de la red virtual de un proveedor de nube específico.
2. Revisa los módulos públicos de Terraform y la documentación de arquitectura proporcionada por LangChain en GitHub para evaluar la complejidad de implementación para el entorno de nube principal de tu equipo (AWS, Azure o Google Cloud).
3. Contacta al equipo de ventas de LangChain si tu configuración autohospedada actual está afectando tu capacidad de ingeniería y estás listo para planificar una migración sin interrupciones al modelo BYOC.

Fuentes

• LangSmith BYOC is now available on AWS, Azure, and Google Cloud — LangChain Blog