Waarom hoge‑niveau abstractie de bottleneck blijft in mens‑AI werkstromen

In een persoonlijke reflectie op mens‑AI‑samenwerking gepubliceerd op LessWrong Curated, legt een onderzoeker uit waarom geavanceerde AI‑modellen ongeveer een productiviteitsstijging van 50 % opleveren bij complex intellectueel werk in plaats van een totale transformatie. Hoewel modellen technische stappen in minuten voltooien die vroeger uren kostten, blijft de centrale bottleneck menselijk begrip en hoog‑niveau architecturaal denken.

Wat er gebeurde

Volgens LessWrong Curated is het samenwerken met AI aan complexe technische taken — zoals wiskundige bewijzen — snel geëvolueerd van een licht nuttige nieuwigheid naar een hulpmiddel dat velen moeilijk kunnen missen. Toch meldt de auteur dat de huidige AI ongeveer een stijging van 50 % in de algehele productiviteit oplevert in plaats van een tienvoudige sprong. De auteur vergelijkt dit met luchtvervoer: zelfs als een vliegtuig tien keer sneller zou vliegen, zou de totale deur‑tot‑deur reistijd van een appartement in Londen naar het huis van een vriend in Rome niet evenredig afnemen, omdat het bereiken van de luchthaven en het wachten op instappen onveranderd blijven.

De primaire bottleneck ontstaat door de manier waarop AI informatie structureert. LessWrong Curated merkt op dat hoewel AI‑modellen sterke technische vaardigheden hebben, ze vaak moeite hebben om schone abstracties te bouwen, waardoor ze produceren wat de auteur "spaghetti-code math" noemt — lange, verwarde logische ketens waarin onderliggende aannames moeilijk te identificeren zijn. Wanneer menselijke experts ingrijpen en eisen dat componenten modulair en zelfstandig zijn, verfijnt het refactoringsproces het werk vaak drastisch, soms met sterkere resultaten (bijvoorbeeld het bewijzen van x < 7,1 in plaats van x < 9,7).

Daarnaast belicht het essay een veelvoorkomende operationele valkuil, beschreven als het "groene licht". Een gebruiker vraagt de AI een taak uit te voeren, en omdat het model dicht bij een oplossing lijkt, besteedt de gebruiker uren aan het vragen om incrementele correcties, zonder resultaat. Opnieuw beginnen met de AI onder strakke controle of de taak handmatig uitvoeren lost het vaak binnen 30 minuten op. Ten slotte merkt de auteur een eenvoudige promptformulering op die consequent behulpzaam bleek: het systeem instrueren om "ask independent agents for an adversarial review".

Waarom het belangrijk is voor kleine teamleiders

Voor kleine bedrijven die AI integreren in kenniswerk biedt deze reflectie een realistisch kader voor mens‑AI‑samenwerking. Het toont aan dat de belangrijkste beperking bij het opschalen van output zelden de snelheid van generatie is, maar de cognitieve overhead van menselijk begrip en structureel ontwerp. Wanneer kleine teams AI inzetten, leidt het volledig vervangen van menselijk oordeel tot ongeorganiseerde, ononderhoudbare resultaten die langer nodig hebben om te auditen dan om vanaf nul te bouwen.

Bovendien moeten teamleiders actief de iteratie‑valkuil beheren. Kleine, slanke teams kunnen zich geen uren veroorloven om een niet‑meewerkend model naar een oplossing te lokken, terwijl een menselijke medewerker die een "strakke leiband" benadering hanteert de taak in minuten kan afronden. Ware augmentatie vindt plaats wanneer menselijke medewerkers de hoog‑niveau architectuur definiëren, schone modulaire abstracties handhaven en volledige begrip van het eindproduct behouden.

Wat je deze week moet doen

1. Stel een escalatieregel van 30 minuten in om te voorkomen dat teamleden vast komen te zitten door uren te besteden aan het aanpassen van AI‑prompts, terwijl handmatige interventie of strakkere constraint‑instelling het probleem snel zou oplossen.
2. Verplicht teams om AI‑output te auditen op modulariteit, zodat complexe rapporten, code of strategische plannen worden opgedeeld in zelfstandige secties met duidelijke aannames en inputs.
3. Voeg de zin "ask independent agents for an adversarial review" toe aan de standaard agent‑instructies van je team om logische hiaten vóór de eindbeoordeling op te vangen.

Bronnen

• Scattered thoughts on how doing math feels these days — LessWrong Curated