Zapier Herontwerpt AI Agent Bestuur Rondom Op Bronnen Gebaseerde Regels

Zapier heeft onlangs een technische terugblik gepubliceerd waarin wordt beschreven hoe het de permissie- en goedkeuringsarchitectuur voor Sidekick, zijn AI-werkruimte-agent, heeft herontworpen. Het bedrijf stapte af van kwetsbare tool-gerichte prompts en ging over op een deterministische, op bronnen gebaseerde beveiligingsengine, ontworpen om goedkeuringsmoeheid te elimineren en onverwachte uitvoeringsneveneffecten te voorkomen.

Wat er gebeurde

Volgens de Zapier Blog categoriseerde Sidekick's initiële permissiesysteem acties op tooltype – alleen-lezen bewerkingen werden automatisch uitgevoerd, terwijl er werd gepauzeerd om gebruikersgoedkeuring te vragen bij schrijf-, bewerk- of verwijderacties. Deze vroege implementatie leed echter aan grote architectonische gebreken. Permissieverzoeken waren gekoppeld aan open browsertabs en verdwenen als een tabblad werd gesloten of vernieuwd, terwijl mislukte acties herhaaldelijk redundante prompts activeerden. Routinematige leesbewerkingen genereerden ook kaarten, waardoor belangrijke prompts verloren gingen in de ruis.

Nog kritieker was dat Zapier een interne systeem splitsing ontdekte: Sidekick's ingebouwde mogelijkheden en de aangepaste codescripts die het schreef om met apps te interageren, draaiden op twee afzonderlijke permissie-engines met inconsistente regels. Bovendien waren regels gekoppeld aan tools in plaats van objecten – er werd toestemming gevraagd om een generieke 'schrijftool' te gebruiken in plaats van specifieke documenten, accounts of directorypaden te bewaken.

Om dit op te lossen, heeft Zapier de beveiliging van Sidekick opnieuw opgebouwd rondom op bronnen gebaseerde permissies. Regels worden nu direct gekoppeld aan bestanden, verbonden apps, websites of automatiseringen, en handhaven de uitvoering ongeacht hoe de agent een actie probeert uit te voeren. Zapier heeft een strikte deterministische evaluatielogica vastgesteld: expliciete 'Nooit'-regels overschrijven strikt alle acties, gevolgd door 'Eerst vragen'-prompts, waardoor stille uitvoering alleen is toegestaan wanneer er geen blokkerende regel bestaat. Bovendien verplaatste Zapier goedkeuringsprompts van het lineaire chattranscript naar een speciaal invoerpaneel en een permanente wereldwijde inbox, terwijl er hardcoded vangrails werden ingebouwd die voorkomen dat de agent algemene permissie-toekenningen voorstelt.

Waarom dit belangrijk is voor agentbouwers en operations leads

Voor kleine teams die AI-agents bouwen of in productie nemen, benadrukt Zapier's technische terugblik een fundamentele infrastructuuruitdaging: 'human-in-the-loop' (HITL) bestuur kan niet worden behandeld als een prompt op chatniveau, maar moet worden gearchitecteerd als een stateful, resource-aware backend regelsengine. Permissies op toolniveau bieden zwakke operationele grenzen omdat risico wordt gedefinieerd door de doelbron – zoals het versturen van een bericht naar een globaal Slack-kanaal versus een DM sturen naar een enkele gebruiker.

Overmatig vragen aan gebruikers leidt tot reflexmatig goedkeuren, terwijl 'zero-prompt'-architecturen het totale verlies van vertrouwen riskeren na één slechte uitvoering. Door de goedkeuringsstatus los te koppelen van actieve gespreksdraden en rigide, deterministische overschrijvingen af te dwingen waarbij het weigeren van een actie altijd wint, kunnen orkestrators agents operationele autonomie verlenen zonder kritieke bedrijfsgegevens in gevaar te brengen.

Wat te doen deze week

1. Verschuif permissie-evaluatie van tools naar doelbronnen: Herstructureer uw agent-orkestratielaag zodat beveiligingsgrenzen de doelasset (bijv. een specifieke databasetabel of map) evalueren in plaats van de functieaanroep zelf.
2. Dwing hardcoded deterministische beleidsoverschrijvingen af: Implementeer een expliciete regelsengine buiten het contextvenster van het model, waar blokkeerregels de uitvoering onvoorwaardelijk afwijzen voordat een LLM-toolaanroep plaatsvindt.
3. Ontkoppel 'human-in-the-loop'-status van de chat-UI: Sla goedkeuringsverzoeken op in een persistente serverwachtrij, zodat lopende uitvoeringspoorten overleven bij gesloten browsertabs en langlopende achtergrondtaken.

Bronnen

• How much should an AI decide without asking you first? — Zapier Blog