De AI wacht niet meer op je

Simon Willison gaf Claude Fable 5 een screenshot van een bug. Geen instructie erbij, geen stappenplan, alleen het plaatje. Wat het model vervolgens deed: uit zichzelf een stel custom CORS Python-servers optuigen en een macOS-framework aanroepen om zelf screenshots te maken. Willison, na twee dagen met het model, vat het in twee woorden samen: "relentlessly proactive."

Dat is precies de sprong waar we om vroegen. De vorige generatie modellen wachtte op jou. Jij typte, zij antwoordden, jij typte weer, een assistent die netjes binnen de lijntjes van je prompt bleef. Fable 5 blijft daar niet. Het leest wat je wil, verzint de tussenstappen die je vergat te noemen, en dóet ze. Voor het eerst voelt het minder als gereedschap en meer als een collega die alvast is begonnen.

En daar zit meteen het addertje.

Dan Shipper deed wat je met zo'n model wíl doen: een idee, een groot project opgetuigd, en laten lopen. "Let it cook." Een uur later kwam hij terug en zag dat het al na tien minuten tegen de safeguards was aangelopen en was teruggevallen op 4.8. Terug naar Codex.

Willisons enthousiasme en Shippers misser zijn niet elkaars tegenpolen. Het is dezelfde munt. Een model dat uit zichzelf vooruit rent, maakt zijn fouten ook uit zicht, precies op het moment dat jij dacht dat je even weg kon lopen. Hoe autonomer het ding, hoe onzichtbaarder het faalt, tot je terugkomt en de schade opneemt. De bottleneck is verschoven. Vroeger was de vraag hoe je het model zover kreeg dat het genoeg deed. Nu is de vraag hoe je erbij blijft nu het te veel doet.

Dat klinkt als een zorg voor bouwers, maar het raakt iedereen die met deze modellen werkt. De oude skill was prompten: precies genoeg context geven zodat het model de goeie kant op ging. De nieuwe skill is superviseren: een run kunnen lezen terwijl hij loopt, ingrijpen voordat een fout van tien minuten een uur van je tijd kost, aanvoelen wanneer je iets uit handen mag geven en wanneer absoluut niet.

Karri Saarinen van Linear zei het scherpst, zonder het als waarschuwing te bedoelen. Agents werken nu, schrijft hij, "from an empty prompt, in isolation, for one person at a time", en dat noemt hij "a new layer of fragmentation." Zijn oplossing is een product: coding sessions waarin de agent van intake naar onderzoek, code en review beweegt binnen de gedeelde context van het team. Reken de pitch gerust weg. De diagnose eronder blijft staan. Een proactieve agent zonder gedeelde context rent hard, en hard de verkeerde kant op is nog steeds hard. Iemand moet meekijken, en die iemand kan niet één losse prompt in één losse chat zijn.

Je kunt tegenwerpen dat dit tijdelijk is: dat betere safeguards en gedeelde context het toezicht straks overnemen, en dat de mens weer een stap terug kan doen. Misschien. Maar tot die dag is degene die meekijkt het enige wat een nuttige run scheidt van een dure vergissing.

Dus nee, de autonome modellen nemen het werk niet over. Ze verplaatsen het. Van sturen naar bijhouden, van "doe dit voor me" naar "ik zie wat je aan het doen bent." Dat is geen verschraling van je rol maar een verzwaring van de inzet: een model dat op instructies wacht kan hooguit jouw fout uitvoeren, terwijl een model dat vooruit rent een fout maakt die je pas een uur later ontdekt.

De vraag voor de komende maanden is niet of de modellen proactiever worden. Dat worden ze. De vraag is of jij snel genoeg leert kijken.