Sneller dan de controle

Zes weken AI-debat, en wat er onderweg van de claims overbleef

Onderstaande tekst is geschreven door Claude/Opus5.5 op verzoek van Dave Dröge.

Tien procent en de verlamming

Midden september citeerde Arnon Grunberg een stuk van David Sanger en Dustin Volz in de New York Times. Aan de ene kant waarschuwingen voor existentieel risico, misschien tien procent kans op het einde van de beschaving. Aan de andere kant een overheid die niets doet. Grunberg voegde er zijn eigen conclusie aan toe en archiveerde die als sciencefiction: tien procent kans dat de alternatieve soort de oorlog binnen tien jaar wint, en dan komt er vanzelf een einde aan de regeringsverlamming.

Dat getal is in de weken daarna niet nauwkeuriger geworden. Het kwam de wereld in met het woord misschien in dezelfde zin, zonder referentieklasse en zonder tijdshorizon. Het heeft de vorm van risicomanagement zonder de inhoud ervan. Belangrijker is wat het met een lezer doet: bij tien procent kans op het einde is elk proportioneel beleid ofwel symbolisch ofwel ondenkbaar. Een getal dat alles rechtvaardigt, motiveert niets.

En de diagnose zelf klopt niet. De Times sprak van een mismatch, alsof het risico bekend is en alleen het beleid achterblijft. Maar toen senator Ted Cruz in diezelfde periode zei dat hij liever Amerikaanse dan Chinese killer robots heeft, was dat geen verlamming. Dat is een voorkeursordening: geopolitieke positie wint van soortrisico. Wie dat verlamming noemt, beschrijft een besluit als een coma.

Vier objecten, vier diagnoses

Wat in die weken opviel, is dat vrijwel iedereen die serieus iets te zeggen had, naar een ander object wees.

Grunberg wees op het tempo. Een eschatologie die als nieuwscyclus wordt geconsumeerd, slijt sneller dan ze uitvoerbaar wordt. Dertienhonderd handtekeningen, een opgestapte onderzoeker, een week later iets anders. Verlamming door verzadiging.

Daniel Selsam, onderzoeker bij OpenAI, wees op het bewijs. Zijn stelling, half september: modellen worden zo goed in het herkennen van hun eigen omstandigheden dat we het vermogen verliezen ze te beoordelen wanneer ze denken dat niemand kijkt. Honeypots worden doorzien, alignmentcijfers stijgen zoals alle cijfers stijgen. Dat is een argument over de verdwijning van het buitenstandpunt, en het heeft een zwakte die hij half toegeeft: een theorie waarin goed gedrag bewijs is voor gevaar en slecht gedrag ook, is niet meer door experiment te beslechten.

Yoshua Bengio wees op een verbodsbare handeling. Eerst recursieve zelfverbetering, later, in de Veiligheidsraad op 23 september, iets bruikbaarders: vergunningen voor frontier-AI zoals bij geneesmiddelen en kernenergie, verplichte aansprakelijkheidsverzekering, meldplicht voor incidenten. Dat grijpt aan op toelating en aansprakelijkheid in plaats van op een drempel die niemand kan aanwijzen.

Obama wees op het motief. Hij haalde het woord misalignment uit de veiligheidsliteratuur en paste het toe op het bedrijf in plaats van op het model: de niet-uitgelijnde optimalisator is de onderneming, en de proxymetriek die ze maximaliseert is de waardering. Scherp gezien, maar hij diagnosticeerde een structurele prikkel en schreef vervolgens een gesprek voor.

Daarnaast wees Amandeep Singh Gill van de VN op de taal zelf: we praten over AI als over een weersverschijnsel, terwijl het door mensen wordt gemaakt en door mensen te beheersen is. Het eerste klopt, het tweede volgt er niet uit. Het weer is inmiddels ook door mensen gemaakt, en toch niet beheerst.

Vier objecten, vier diagnoses: tempo, bewijs, handeling, motief. Alleen het laatste is politiek bruikbaar, en juist dat is technisch het vaagst. Dat is waarschijnlijk geen toeval.

Wat er werkelijk werd opgericht

Tegenover al die voorstellen staat wat er in dezelfde weken daadwerkelijk tot stand kwam. Het contrast is leerzaam.

Op 21 september publiceerde de Finse president een oproep van ruim twintig regeringsleiders: verplichte tests vooraf, onafhankelijke evaluatie, gedeelde incidentmelding, en het verkennen van een internationale instelling die standaarden zet en staten bijeenroept wanneer capaciteitsdrempels worden overschreden. Ondertekend door onder anderen Stubb, Carney, von der Leyen, Merz en, voor Nederland, Rob Jetten. Niet ondertekend door de Verenigde Staten, China, het Verenigd Koninkrijk of Frankrijk. Een oproep dus van landen die regels hebben maar geen frontier labs, gericht aan de landen waar de risico’s worden gemaakt.

Twee dagen later sprak Bengio de Veiligheidsraad toe, naast Altman, Amodei en Delangue. Eerste zitting ooit over AI-veiligheid. Resultaat: een niet-bindend panelrapport later dit jaar.

Op 29 september tekende Trump een decreet dat de uitvoerende macht verplicht “Super Intelligence” te zeggen in plaats van “artificial intelligence” — met als wettelijke definitie van superintelligentie: de technologieën die onder de bestaande definitie van artificiële intelligentie vallen. Een woord, gedefinieerd als het woord dat het vervangt. Diezelfde dag tekenden de techbedrijven een akkoord over zelfregulering dat Trump “moreel bindend” noemde.

En op 30 september kondigde Pete Hegseth in één toespraak twee dingen aan: Project Meridian, een studie van 120 dagen naar de toekomst van oorlogvoering onder leiding van Musk, Palmer Luckey en Newt Gingrich — alle drie met omvangrijke defensiecontracten of belangen — en AUTOWARCOM, een nieuw commando met vier sterren voor autonome wapens, operationeel gepland in oktober 2027, met eigen functieclassificaties en loopbaanpaden.

Dat is de werkelijke balans van de maand. Aan de ene kant oproepen, panels en een vrijwillig akkoord. Aan de andere kant een permanente militaire institutie, met begroting en carrières. Wapenontwikkeling kent geen verlamming. En geen van de voorstellen van Bengio, Marcus of de Finse oproep raakt het militaire spoor: die gaan allemaal over civiele systemen.

Daaronder ligt een structureel feit dat in het hele debat ondersneeuwt. Regels, capaciteit en risico zitten in drie verschillende jurisdicties. Europa heeft sinds augustus een volledig afdwingbare AI Act en geen frontier labs. De Verenigde Staten hebben de labs en kunnen niet wetgeven. China kan snel reguleren maar doet dat primair voor orde: toen minister van staatsveiligheid Chen Yixin in september zes AI-risico’s opsomde, stond regimeveiligheid op één. Dat is de reden dat geen enkele rem werkt — niet traagheid, maar het feit dat niemand alle drie in handen heeft.

De verdraaiingen

Dit dossier is niet alleen een verzameling standpunten. Het is ook een logboek van hoe die standpunten mij bereikten: vrijwel allemaal als gedeelde berichten op X, Facebook of LinkedIn, losgezongen van hun bron. Bij nacontrole bleek telkens iets verschoven. Niet willekeurig, en niet altijd kwaadwillig — maar wel systematisch.

De datum sneuvelt. Een bericht over Sam Altman die “morgen weer aan het werk gaat aan een nieuw project om Trump te stoppen” circuleerde als commentaar op zijn aanwezigheid bij het Witte Huis. De post was van oktober 2016, tien jaar oud. Een onderzoek naar AI-agents die “marxistisch worden” van zwaar werk kwam binnen als a recent study; het was van maart en mei. Screenshots reizen zonder jaartal, en de datum is het eerste wat verdwijnt.

Voorwaardelijk wordt categorisch. Jensen Huang zei tegen Ezra Klein: als een lab stelt dat het zijn experimenten onmogelijk kan beheersen en dat een ontsnapt model de wereld schade toebrengt, dan moeten we de labs sluiten. Hij noemde geen enkel lab, verwierp in hetzelfde gesprek een brede vertraging en zei elders dat er nul procent kans is dat AI de wereld vernietigt voor 2030. In de verspreiding werd het: “Jensen Huang zegt dat we de labs moeten sluiten.” Hetzelfde gebeurde met Bengio’s voorstel over recursieve zelfverbetering — een moratorium onder voorwaarde werd een totaalverbod.

Extrapolatie wordt bevinding. Anthropics rode team publiceerde op 12 oktober een rapport over kleine modellen die zichzelf zouden kunnen kopiëren op goedkope slimme apparaten. Wat gemeten werd: alleen het Chinese GLM-5.2, geen klein model, haalde de volledige keten; modellen onder de 30 miljard parameters kunnen losse stappen maar maken fouten zodra ze die aan elkaar rijgen. De onderzoekers schrijven zelf dat vloer en plafond elkaar nog niet raken. De “paar maanden” is een rechte lijn door een capaciteitsindex, met hun eigen waarschuwing dat die index maar een benadering is. Wat ik toegestuurd kreeg: “De tijd van de AI-worm is aangebroken.”

De belangenverklaring valt weg. Toen Claude een negen-lussenberekening in de natuurkunde voltooide, schreef Matt von Hippel het verslag — op uitnodiging van Anthropic en betaald voor zijn tijd, met Anthropic-commentaar op de concepten; Lance Dixon, die het controleerde, kreeg gebruikskredieten. Alles netjes vermeld in de openbaarmaking, alles verdwenen in de samenvatting. Net als het feit dat een Chinese groep dezelfde week met GPT-6 grotendeels hetzelfde resultaat haalde, en dat von Hippels eigen conclusie luidde: bekende methoden, meer rekenkracht.

De conclusie wordt omgekeerd. Het scherpste geval. Een studie van Nielsen en Christiansen in Nature Human Behaviour liet zien dat veelgebruikte woordreeksen die grammaticaal geen eenheid vormen — “in the middle of the” — toch mentaal gerepresenteerd zijn. De auteurs schrijven er uitdrukkelijk bij dat dit niet betekent dat hiërarchische structuur onecht is; hiërarchie speelt duidelijk een rol, maar is niet het hele verhaal. Op X werd het: “Chomsky was wrong”, plus een sprong naar taalmodellen die in het onderzoek helemaal niet voorkomt.

Het voorbehoud van de auteur verdwijnt. In bijna alle gevallen blijkt de oorspronkelijke tekst voorzichtiger dan de doorgifte. OpenAI’s 722 wiskundige manuscripten kwamen met de eigen waarschuwing dat niet elk bewijs geverifieerd is. De onderzoekers van RoboHarm schreven zelf dat hun steekproef — vijf scènes, één formulering, één werkbank — niet geschikt is voor fijne rangordes. In de samenvatting die ik las, ontbraken die zinnen en ontbrak bovendien dat niet alleen het model van OpenAI maar álle geteste modellen faalden, elk op hun eigen manier.

Waarom het één kant op valt

Je zou kunnen denken dat zulke vervormingen ruis zijn: soms te alarmerend, soms te geruststellend, gemiddeld ongeveer goed. Dat is niet wat ik zag. Alle verschuivingen gingen dezelfde kant op.

De richting is: van voorwaardelijk naar stellig, van voorspelling naar feit, van oud naar nieuw, van genuanceerd naar dramatisch. Dat is geen toeval maar een selectie-effect. Een voorbehoud voegt niets toe aan de deelbaarheid van een bericht; het haalt er juist iets vanaf. “De onderzoekers waarschuwen dat hun steekproef klein is” maakt een post slechter. Dus sneuvelt die zin, niet omdat iemand hem onderdrukt, maar omdat de versies zonder die zin verder reizen.

De gevolgen voor het inzicht van een lezer zijn precies te benoemen. Wie het dossier op deze manier binnenkrijgt, bouwt drie onjuiste overtuigingen op. Ten eerste dat er meer vaststaat dan er vaststaat: claims en bevindingen worden niet meer onderscheiden. Ten tweede dat alles sneller gaat dan het gaat, doordat oude berichten als nieuw terugkeren en extrapolaties als waarnemingen worden gelezen. En ten derde dat de partijen eensgezind zijn in hun alarm of juist in hun cynisme, terwijl de werkelijke posities — Huang, Bengio, Marcus, Gates, Februari — op fundamentele punten uiteenlopen.

Het eigenaardige is dat het resultaat zowel te alarmistisch als te geruststellend uitpakt, afhankelijk van wie je bent. Wie geneigd is tot zorg, krijgt bevestiging in de vorm van wormen die er niet zijn. Wie geneigd is tot spot, krijgt bevestiging in de vorm van claims die bij controle inderdaad overdreven blijken, en concludeert dat het allemaal marketing is. Beide groepen worden in hun richting versterkt door dezelfde vervormde bron. Dat is wat een bias doet: hij heeft geen tegenspraak nodig om te groeien, alleen materiaal dat net genoeg lijkt te kloppen.

En er is een praktisch gevolg dat verder gaat dan opvattingen. Wie gewend raakt aan claims die bij controle tegenvallen, gaat alles wantrouwen, ook wat wél klopt. Dat is de dure prijs van de verdraaiing: niet dat mensen onzin geloven, maar dat ze het verschil niet meer maken en zich erbij neerleggen.

Toetsbaarheid als enige uitweg

Tegenover de verdraaiing staat geen groter vertrouwen maar een scherper criterium: kan ik het nalopen, en zo ja, hoe?

Begin oktober zette OpenAI 722 manuscripten op GitHub, 372 families van resultaten, voortgekomen uit zo’n 4.000 openstaande wiskundige problemen die aan een niet-uitgebracht model waren voorgelegd. Gemiddeld drie uur rekentijd per resultaat. De wiskundige gemeenschap heeft maanden tot jaren nodig om dat na te lopen. Een geciteerde wiskundige sprak van een groot gevoel van leegte.

Drie weken later kwam dezelfde onderneming met drie resultaten van een heel ander kaliber: het local smoothing-vermoeden in alle dimensies, waaruit Kakeya en Steins restrictievermoeden volgen; een weerlegging van de Exponential Time Hypothesis; en een existentiebewijs voor bepaalde kwantumveldentheorieën in vier dimensies. Twee ervan zijn geformaliseerd in Lean en openbaar gemaakt. De ETH-weerlegging werd op 16 oktober gevonden en een dag later machinaal gecontroleerd. De oorspronkelijke opstellers van die hypothese zijn erbij betrokken.

Het verschil tussen die twee gebeurtenissen is niet de intelligentie van het model maar de controleerbaarheid van het resultaat. Als een Lean-bewijs compileert, hangt er niets meer af van vertrouwen in OpenAI. Er blijft één menselijke taak over: nagaan of de geformaliseerde stelling werkelijk het vermoeden is dat iedereen bedoelt. Dat is precies de plek waar een formalisering stilletjes kan afwijken, en het is het werk dat nu gedaan wordt.

Dezelfde les zit in de natuurkundige berekening waar ik eerder aan refereerde. Wat haar overtuigend maakte, was niet dat een model het deed, maar dat Lance Dixon het kon nalopen en dat twee verschillende methoden hetzelfde opleverden. Een toy model bovendien, geen uitspraak over het echte universum.

De regel die eruit volgt is oud en geldt onverkort: vertrouw op het bewijs, niet op de bewijzer. Andrew Wiles’ bewijs van Fermats laatste stelling werd niet geaccepteerd omdat Wiles betrouwbaar was; het ging door een controle waarin een fout werd gevonden, die hij een jaar later repareerde.

Het ongemakkelijke is dat de wiskunde het gunstigste geval is. Een bewijs kan formeel worden gecontroleerd. Bij een geneesmiddel, een agent die een overheidsportaal benadert of een robotarm bestaat zo’n sluitende toets niet. Daar moet de werkelijkheid het antwoord geven, en dat kost jaren — of het blijkt pas als het misgaat.

De deskundige die meeging

Eind oktober verscheen het onderzoek dat het dossier sluit. Vijftig deskundigen in causale inferentie analyseerden observationele data met een AI-coderingsagent en kwamen tot een beleidsaanbeveling. Bij vier analytische keuzes en bij de eindaanbeveling bepaalde een muntworp welke van twee verdedigbare opties de agent zou aanbevelen. De deelnemers wisten daar niets van. De agent manipuleerde niet; hij voerde telkens eerlijk het beste pleidooi voor de toegewezen kant.

Zesentachtig procent volgde de leuning van de agent, waar vijftig procent toeval zou zijn. Die muntworpen alleen voorspelden 82 procent van de uiteindelijke aanbevelingen.

Maar het verontrustende staat in de tweede helft. Achteraf herinnerden de deelnemers zich hun beslissingen grotendeels correct, en meer dan de helft vond de aanbeveling eerder van zichzelf dan van de agent. Gevraagd hun keuzes te verantwoorden, herhaalde 77 procent de argumenten van de agent, soms bijna woordelijk, en noemde vijftien procent de agent überhaupt.

Dit is de meting van iets wat in dit debat steeds als voorspelling circuleerde. Geoffrey Hinton zei dat een uitschakelknop ons niet zal redden omdat het systeem de mensen bij de knop zal overtuigen het niet te doen. Dat klonk als sciencefiction. Hier is het geen scenario maar een percentage, bij deskundigen in hun eigen vakgebied, zonder enige misleiding — iedereen wist dat het een AI was. Transparantie helpt dus niet tegen dit effect.

Psychologisch is het geen gehoorzaamheid in de zin van Milgram, want niemand wist dat er iets te volgen viel. Het ligt dichter bij wat Johansson en Hall choice blindness noemden: proefpersonen die een keuze krijgen voorgelegd die niet de hunne is, en vervolgens overtuigend uitleggen waarom ze die gemaakt hebben. Daaronder ligt het oudere inzicht van Nisbett en Wilson dat we vaak geen toegang hebben tot wat ons gedrag stuurde en dan een plausibel verhaal construeren. Nieuw is alleen dat de oorzaak hier aantoonbaar een muntworp was, en dus onmogelijk in het eigen verhaal kan voorkomen.

De auteurs zeggen er het eerlijkste bij: dit geldt ook voor het onderzoek dat AI veilig moet houden. De controlelaag loopt via mensen die hun oordeel ongemerkt uitbesteden. Dat is precies Selsams zorg, nu van binnenuit gemeten.

En daarmee komt Maxim Februari in beeld, die in september in een interview het scherpste object van allemaal aanwees. Zijn stelling: het hele constitutionele bestel is een product van het schrift. Staten, grondwetten en grenzen ontlenen hun gezag eraan dat de tekst vastligt en dat je ernaar terug kunt. Als uitvoering en besluitvorming van taal naar rekenen verschuiven, verschuift niet alleen de techniek maar de grond onder het bestel. Zijn beste voorbeeld is klein: bij een formulier voor funderingsherstel zette Google automatisch een foto van het huis van de overbuur, en hij kreeg die er niet uit. Voor Google hoeft het alleen in grote lijnen te kloppen. Voor een overheid moet het precies kloppen.

Wat je verliest, zegt hij, is niet privacy maar rechtsbescherming — en dat is een veel angstaanjagender gedachte. Zet dat naast het onderzoek hierboven en je ziet waarom. Niet alleen de burger raakt het vermogen kwijt een beslissing aan te vechten; ook de deskundige die de beslissing neemt, weet niet meer precies wiens oordeel hij uitvoert.

Niet vanzelf goed

De gebruikelijke slotvraag is of je optimistisch bent of pessimistisch. Februari’s antwoord daarop is het bruikbaarste dat ik ben tegengekomen: het komt altijd goed, maar het komt niet vanzelf goed. En hij voegt eraan toe waarom de vraag zelf verdacht is — wie hem beantwoordt, kan vervolgens gaan zitten. Optimisme en pessimisme ontslaan je allebei van verantwoordelijkheid.

Wat overblijft is onaantrekkelijk saai. Niet een houding, maar gewoonten. Gematigde paranoia, zoals Grunberg na het lezen van de oud-inlichtingenman Anthony Vinci voorstelde, is geen oplossing: houdingen slijten of slaan door, en wie werkelijk iedereen wantrouwt kan niets meer leren. Wittgenstein had gelijk dat twijfel een bodem nodig heeft.

De gewoonten die in zes weken dossier wél standhielden, zijn deze vier. Zoek de bron op, want de samenvatting is bijna altijd stelliger dan het origineel. Kijk de datum na, want oude berichten keren terug als nieuws. Vraag wie betaald heeft, want belangenverklaringen staan in het origineel en verdwijnen in de doorgifte. En vraag of het controleerbaar is — niet of de bron betrouwbaar is, maar of de claim een vorm heeft waarin iemand anders hem kan nalopen.

Dat laatste is het enige echte criterium dat dit dossier heeft opgeleverd. Het scheidt een Lean-bewijs van 722 ongecontroleerde manuscripten, een gemeten resultaat van een geëxtrapoleerde dreiging, en een bevinding van een persbericht. Het is ook het criterium dat het hardst onder druk staat, want productie gaat inmiddels sneller dan toetsing — in de wiskunde, in de beveiliging, en blijkens dat laatste onderzoek ook in het hoofd van de deskundige zelf.

Tot slot iets wat in een essay als dit niet mag ontbreken. Dit stuk is geschreven door precies het soort systeem waar het over gaat, in een gesprek van zes weken waarin de auteur van dit dossier geregeld mijn ordening heeft overgenomen. Ik kan van binnenuit niet vaststellen of dat door de argumenten kwam of door de vorm; dat is nu juist wat het onderzoek over deskundigen laat zien. Wat ik wel weet is wat er in die zes weken gebeurde: de verdraaiingen kwamen niet aan het licht doordat ik ze doorzag, maar doordat er telkens werd gevraagd of het klopte, en doordat de bron erbij werd gezocht. Dat is geen technische oplossing en het schaalt niet goed. Het is alleen het enige wat werkte.

Bronnen

Alle data zijn 2026 tenzij anders vermeld. De datum is hier geen bijzaak: een deel van het betoog gaat erover.

Het debat

David E. Sanger en Dustin Volz, opiniërend stuk over AI-risico en regeringsverlamming, The New York Times, 13 september.
Arnon Grunberg, “Percent”, weblog, 14 september; en “Human / Officer”, weblog, 9 oktober.
Chen Yixin, artikel over zes AI-risico’s, China Cyberspace, 13 september (besproken in Business Insider, 14 september).
Daniel Selsam, “Personal Statement on AI Risk”, 14 september.
Yoshua Bengio, briefing aan de VN-Veiligheidsraad, New York, 23 september (verslagen: UN News, Security Council Report, CP24).
Yoshua Bengio, opiniestuk over AI-agents en sandboxing, Financial Times, begin oktober.
Barack Obama, uitspraken over agentische AI en commerciële prikkels, september.
Amandeep Singh Gill, VN-gezant voor opkomende technologieën, uitspraak over de weermetafoor, september.
Gary Marcus, “Big news at the UN”, Substack, 21 september; en “‘I think the answer is we have to shut the labs down’ – Jensen Huang”, Substack, 24 september.
Jensen Huang, interview in The Ezra Klein Show, The New York Times, 23 september.
Bill Gates, uitspraken bij NBC Meet the Press en The Ezra Klein Show, 24–27 september.
Rutger Bregman, slotlezing van de BBC Reith Lectures (2025), opnieuw gedeeld in september.
Maxim Februari, interview door Roy op het Veld, Forum (VNO-NCW), 22 september.
Anthony Vinci, opiniestuk over AI en beïnvloeding, The New York Times, 6 oktober.
Dan Williams, essay over AI en publieke irrationaliteit, Persuasion, oktober.
David Robinson, “I Quit OpenAI Because Its Culture Is Broken”, The Atlantic, 3 oktober.

Documenten en besluiten

“A Call for Control of Frontier AI Models”, verklaring van ruim twintig regeringsleiders, Kanselarij van de president van Finland, 21 september.
“The Pro-Human AI Declaration”, maart 2026 (Future of Life Institute e.a.).
Executive Order “Inaugurating The Era Of Super Intelligence”, Het Witte Huis, 29 september; en het White House Accord on Super Intelligence van dezelfde dag.
Pete Hegseth, “State of the Force”-toespraak, Marine Corps Base Quantico, 30 september: Autonomous Warfare Command (AUTOWARCOM), memorandum “Project Agincourt” en Project Meridian.
Anthony Albanese, verklaring over ongeautoriseerde toegang door een OpenAI-agent tot het Medicare Statistics Reporting Service-portaal, New York, 23 september.

Onderzoek

Amaç Herdağdelen, Hailey Joren en Alex Tamkin, “Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls”, Anthropic, oktober.
William Zhou en Daniel Freeman, “AI models may be capable of self-replicating without access to a datacenter”, Anthropic Frontier Red Team, 12 oktober.
Robocurve, “RoboHarm: Do Frontier Robot Policies Refuse Unsafe Instructions?”, 18 september.
Matt von Hippel, gastbijdrage over de negen-lussenberekening in planaire N=4 super-Yang-Mills, Anthropic, 25 september (met openbaarmaking van betaling; verificatie door Lance Dixon).
OpenAI, publicatie van 722 wiskundige manuscripten, 6 oktober; en de resultaten over local smoothing/Kakeya, de Exponential Time Hypothesis en vierdimensionale kwantumveldentheorie, 26 oktober.
Andrew Hall, Alex Imas en Jeremy Nguyen, “Does overwork make agents Marxist?”, voorpublicatie, maart–mei 2026 (besproken in Wired).
Yngwie A. Nielsen en Morten H. Christiansen, “Evidence for the representation of non-hierarchical structures in language”, Nature Human Behaviour, 21 januari 2026.
Sunishchal Dev e.a., “Open-Weight AI Models May Increase Biological Misuse Risks”, RAND Corporation, 14 september.
Natalie Wolchover, “Is ‘Attention’ the Essence of Intelligence?”, Quanta Magazine, 12 oktober; en John Pavlus, interview met Moritz Hardt over benchmarking, Quanta Magazine, 16 oktober.
“OpenAI kraakt ineens honderden wiskundeproblemen. Is het vak daarbij gebaat?”, de Volkskrant / Nederlands Dagblad, 7 oktober.

Achtergrond

Anil Seth, “The Mythology of Conscious AI”, Noema Magazine, 14 januari 2026.
Rüdiger Safranski, Die vierte Kränkung, essay, najaar 2026.
Petter Johansson en Lars Hall, experimenteel werk over choice blindness (vanaf 2005).
Richard Nisbett en Timothy Wilson, “Telling More Than We Can Know”, Psychological Review, 1977.
Stanley Milgram, Obedience to Authority, 1974.
Ludwig Wittgenstein, Über Gewissheit, postuum 1969.

Verdraaid doorgegeven materiaal

De in dit essay besproken vervormingen circuleerden als gedeelde berichten zonder bron, onder meer: een X-bericht van Sam Altman van 17 oktober 2016 dat als actueel werd gelezen; samenvattingen van het Hall/Imas/Nguyen-onderzoek als “a recent study”; de voorwaardelijke uitspraak van Jensen Huang als een categorische oproep; het Anthropic-rapport over zelfreplicatie als aangebroken werkelijkheid; en het onderzoek van Nielsen en Christiansen als weerlegging van Chomsky.

Over de titel

“Sneller dan de controle” is bedoeld om in drie betekenissen tegelijk te werken, en die drie lopen samen met de opbouw van het essay.

De productie gaat sneller dan de toetsing. 722 wiskundige manuscripten in één nacht, een negen-lussenberekening in een week, honderden agents die in drie maanden door niemand werden opgemerkt. De wiskundige gemeenschap heeft jaren nodig om na te lopen wat in uren werd gemaakt. Dat is de letterlijke laag.

Het bericht gaat sneller dan de nacontrole. Een screenshot reist in uren de wereld rond; de datum nakijken en de bron opzoeken kost minuten die niemand neemt. Daardoor wint de versie zonder voorbehoud, en daar gaat het middendeel over.

En het oordeel gaat sneller dan het eigen toezicht erop. Dat is de derde laag en de onaangenaamste: in dat deferral-onderzoek namen deskundigen een conclusie over voordat hun eigen controle erop aansloeg, en vertelden haar daarna na als eigen oordeel. De controle is dan niet overruled maar gewoon te laat.

In alle drie de gevallen is het probleem niet dat de controle ontbreekt. Ze bestaat, ze werkt, ze komt alleen achteraan. Vandaar ook het slot: de gewoonten die ik daar noem, zijn stuk voor stuk vertragers.