LangSmith BYOC uitgebreid naar Azure en Google Cloud voor agentteams

Het infrastructuurlandschap voor de implementatie van agents verschoof deze week toen LangChain aankondigde dat zijn LangSmith Bring Your Own Cloud (BYOC)-architectuur nu algemeen beschikbaar is op AWS en in bèta op zowel Azure en Google Cloud, volgens de LangChain Blog.

Wat er is gebeurd

Volgens de LangChain Blog splitst LangSmith BYOC de infrastructuur op in twee onderscheiden componenten: een besturingsvlak beheerd door LangChain en een datavlak dat eigendom is van de organisatie. Het besturingsvlak behandelt authenticatie, configuratie van organisaties en werkruimten, factureringsmetagegevens, gehashte API-sleutels en statische UI-assets. Ondertussen behoudt het datavlak — dat zich kan uitstrekken over meerdere accounts en regio's — alle gevoelige assets, inclusief traces, prompts, datasets, experimenten, agentimplementaties en werkruimtegeheimen.

De uitbreiding brengt specifieke cloud-native integraties voor elke provider. Op Azure draait BYOC het datavlak binnen een toegewezen virtueel netwerk met een privé AKS API-eindpunt, gebruikmakend van Istio en KEDA met Helm voor ingress-routering en event-driven schalen, waarbij systeemtelemetrie wordt gerouteerd naar Azure Monitor. Op Google Cloud kunnen datavlakken in elke regio draaien terwijl ze worden beheerd vanuit het Amerikaanse besturingsvlak van LangChain, waarbij gebruik wordt gemaakt van naamruimte-afhankelijke namen om infrastructuurconflicten te voorkomen. Op AWS opereert het datavlak binnen een bestaande VPC, waardoor beveiligingsteams aangepaste beveiligingsgroepen kunnen koppelen voor ingress- en egress-inspectie.

Voorheen moesten organisaties met strikte nalevingsvereisten zelf-gehoste LangSmith-instanties implementeren en onderhouden, waarvoor toegewijde platformingenieurs nodig waren om stateful services te patchen, databases te configureren en schemamigraties te beheren. Met BYOC provisioneert en beheert LangChain de applicatie binnen het virtuele netwerk van de organisatie terwijl het schalen, schema-updates en runtime-afhankelijkheden afhandelt. Organisaties kunnen migreren van zelf-gehoste omgevingen met behulp van een open-source migratietool voor werkruimtebronnen, aangevuld met interne LangChain-tools voor trace-migraties.

Waarom het belangrijk is voor kleine AI-engineeringteams

Voor leiders van kleine teams en oprichters die agentapplicaties in productie draaien, is infrastructuuronderhoud een constante belasting voor de snelheid. Tot nu toe betekende het kiezen van strikte gegevenssoevereiniteit het betalen van een zware operationele tol: uren besteed aan het worstelen met Helm-charts, het beheren van databasemigraties en het patchen van stateful services. BYOC lost dit op door de last te verdelen. U houdt gevoelige agenttelemetrie, prompts en evaluatiedatasets veilig binnen uw eigen cloudperimeter, waarmee u voldoet aan enterprise-nalevingsvereisten zonder dat u een toegewijd platformengineeringteam nodig heeft om de boel draaiende te houden.

Deze architectuur ontgrendelt ook multi-cloud-flexibiliteit voor groeiende bedrijven. Als uw kernproductstack op AWS draait terwijl een enterpriseklant Azure eist voor hun geïsoleerde bedrijfseenheid, kan uw platformteam afzonderlijke datavlakken inrichten die zijn afgestemd op het beveiligingsmodel van elke cloud, met behoud van een uniforme werkruimtestrategie. Door de runtime-afhankelijkheden en schaalmechanismen te abstraheren, stelt dit model kleinere teams in staat om boven hun gewichtsklasse te boksen en agentinfrastructuur van enterprise-kwaliteit te implementeren met minimale overhead.

Wat u deze week kunt doen

1. Controleer uw huidige agentinfrastructuur en datalocatievereisten om te bepalen of uw gevoelige traces en evaluatiedatasets binnen het virtuele netwerk van een specifieke cloudprovider moeten verblijven.
2. Bekijk de openbare Terraform-modules en architectuurdocumentatie die door LangChain op GitHub worden verstrekt om de implementatiecomplexiteit voor de primaire cloudomgeving van uw team (AWS, Azure of Google Cloud) te evalueren.
3. Neem contact op met de verkoop van LangChain als uw huidige zelf-gehoste setup een wissel trekt op uw engineeringcapaciteit en u klaar bent om een migratie zonder downtime naar het BYOC-model te plannen.

Bronnen

• LangSmith BYOC is now available on AWS, Azure, and Google Cloud — LangChain Blog