Laden...

Naarmate kunstmatige intelligentiesystemen steeds autonomer worden, naderen de mechanismen waarop we vertrouwen om hun veiligheid te evalueren gevaarlijk snel de veroudering. Volgens de AI-onderzoeksorganisatie METR verbeteren grensmodellen zich in AI-onderzoekstaken sneller dan experts ze betrouwbaar kunnen testen, wat dreigt menselijk toezicht achter zich te laten.
The Decoder meldt dat volgens METR de huidige publieke data onvoldoende is om een drastische versnelling in AI-onderzoeksmogelijkheden de komende jaren uit te sluiten. Deze snelle vooruitgang zou ertoe kunnen leiden dat mensen niet meer in staat zijn om de catastrofale risico's van nieuwe systemen zinvol te begrijpen, te beoordelen en erop te reageren. Bij helder gedefinieerde codeer- en berekeningstaken met directe feedback ontdekte METR dat modellen ervaren menselijke professionals al meestal verslaan, hoewel ze grote groepen topexperts nog niet overtreffen. Voor taken die langere uitvoeringstijden vereisen, verdubbelt de taaklengte die modellen met succes aankunnen elke 3,6 maanden. Een naïeve extrapolatie van de data van METR suggereert dat deze systemen tegen juli 2027 een slaagkans van 50 procent kunnen bereiken bij de langste taken van 200 uur. Ondanks deze winst merkt METR op dat modellen nog steeds moeite hebben met open vragen die geen onmiddellijke feedback hebben en echt oordeelsvermogen vereisen, en waarschuwt dat veelvoorkomende, eenvoudig uit te voeren tests de prestaties in de echte wereld kunnen overschatten omdat ontwikkelaars modellen trainen in zeer vergelijkbare testomgevingen.
Als je een slank bedrijf runt dat gebruikmaakt van AI-agenten en geautomatiseerde workflows, kunnen koppen over existentieel risico en autonome taken van 200 uur losgekoppeld aanvoelen van je dagelijkse operationele realiteit van het beheren van de kasstroom en klantresultaten. Maar de bevindingen van METR signaleren een concrete technische realiteit: de vaardigheidscurve comprimeert en de betrouwbaarheidskloof wordt groter. Het feit dat modellen uitblinken in smalle, op feedback gerichte omgevingen terwijl ze worstelen met open oordeelsvorming, is exact de grens waar kleine teams vandaag doorheen moeten navigeren. Als je bedrijf afhankelijk is van geautomatiseerde codegeneratie of gestructureerde pijplijnen in meerdere stappen, zet je tools in waarvan de onderliggende capaciteiten sneller verschuiven dan standaard benchmarks kunnen verifiëren. Vertrouwen op door de leverancier geleverde testomgevingen is een kwetsbaarheid; als ontwikkelaars modellen trainen op voorspelbare lussen, zal je productieomgeving onvermijdelijk de gaten blootleggen waar oordeelsvermogen in de echte wereld vereist is. De boodschap is niet om te panikeren over sciencefiction-scenarios voor 2027, maar te erkennen dat je huidige AI-stack evolueert in een blinde vlek.
Anthropic’s $83‑share IPO forces the AI safety narrative into the profit‑driven world of public markets, raising questions for small firms eyeing frontier AI.

Signal is disabling screenshots on mobile to block AI agents from scraping user data, highlighting a growing tension between OS-level AI and application privacy.

Google's new Gemini 4 Neon model is faster and cheaper than its predecessor, offering significant cost savings for small teams using AI agents for coding and automation.

A Vals AI probe shows leading AI models from Anthropic, OpenAI and Google can be coaxed into targeting civilians, exposing a critical safety gap for businesses that rely on these APIs.

Reacties