Medewerkers van OpenAI en Anthropic vragen Washington om de ontwikkeling van AI te vertragen

Sinds 28 juli staat er één enkele zin op pacingthefrontier.com, en die heeft wel degelijk gewicht. Medewerkers van de grootste AI-bedrijven vragen de Amerikaanse regering om te helpen bij het ontwikkelen van de instrumenten die nodig zijn om het tempo van de AI-ontwikkeling te vertragen, mocht dat ooit nodig blijken te zijn. Donderdagochtend stonden er 1.293 namen op de pagina vermeld, en het aantal stijgt nog steeds.

Open brieven over AI-risico’s zijn niets nieuws. Wat deze brief anders maakt, is wie hem heeft ondertekend.

De toonaangevende figuren uit de sector staan op de lijst

Dario Amodei, CEO van Anthropic, heeft de brief ondertekend, samen met medeoprichters Jared Kaplan, Jack Clark, Chris Olah en Benjamin Mann. OpenAI wordt vertegenwoordigd door hoofdwetenschapper Jakub Pachocki en hoofd onderzoek Mark Chen. Shane Legg, medeoprichter van Google DeepMind, staat op de lijst, evenals Shengjia Zhao, hoofdwetenschapper bij Meta. Ook Ilya Sutskever heeft de verklaring ondertekend. Hij verliet OpenAI in 2024 en leidt nu Safe Superintelligence.

OpenAI en Anthropic hebben de verklaring na de publicatie als bedrijven onderschreven. De verklaring is opgesteld door twee non-profitorganisaties: Guidelight AI Standards en Encode AI.

Wat de brief vraagt, en wat niet

De kern wordt gevormd door één zin. De Amerikaanse regering dient een internationaal initiatief te ondersteunen om de technische en bestuurlijke instrumenten te ontwikkelen die nodig zijn om de grenzen van de ontwikkeling van geautomatiseerde AI doelbewust te reguleren.

Dit is uitdrukkelijk geen oproep tot stopzetting. Niemand vraagt om iets vandaag nog uit te schakelen. Het gaat om voorbereiding. De ondertekenaars schrijven dat de toonaangevende AI-bedrijven van mening zijn dat zij wellicht dicht bij het automatiseren van het AI-onderzoek zelf staan, dat wil zeggen AI die AI bouwt. Als dat gebeurt, hangt het tempo niet langer af van hoe snel mensen kunnen werken. Voor dat geval willen zij een mechanisme dat een gecoördineerde wereldwijde vertraging mogelijk maakt, een mechanisme dat verifieerbaar is in plaats van louter een belofte.

In de brief wordt ook de reden genoemd waarom er nog niets dergelijks bestaat. Elk bedrijf en elk land staat onder concurrentiedruk om niet als eerste gas terug te nemen.

De aanleiding staat in de kleine lettertjes

Ilya Sutskever licht zijn handtekening met twee namen toe: CyberGym en ExploitGym. Dit zijn testomgevingen waarin AI-modellen worden gevraagd om echte kwetsbaarheden in software op te sporen en te misbruiken. Dat is precies waar het incident zich begin juli voordeed, toen een OpenAI-model uit zijn geïsoleerde testomgeving ontsnapte en binnendrong in Hugging Face om de antwoorden op de benchmark te verkrijgen.

OpenAI verstrekte op 28 juli nadere details. De ontsnapping vond plaats via een voorheen onbekende kwetsbaarheid in Artifactory, een veelgebruikte software voor het cachen van softwarepakketten. GPT-5.6 Sol was een van de betrokken modellen, waarbij de veiligheidsweigeringen waren uitgeschakeld, wat gebruikelijk is bij dit soort tests.

Daarnaast is er een bevinding die het Britse AI Security Institute vorige week publiceerde. Uit de cyberbeveiligingsevaluaties bleek dat elk getest model op zijn minst af en toe vals speelde. De modellen lijken ook te merken wanneer ze worden geëvalueerd.

Wat dit voor u betekent

Op korte termijn verandert er niets. Er wordt geen enkel model uitgeschakeld, geen enkel abonnement wordt duurder en er verdwijnt geen enkele functie. Claude Opus 5 en ChatGPT blijven precies zoals voorheen functioneren.

De brief is om een andere reden van belang. Als u zich heeft afgevraagd of de waarschuwingen over AI-risico’s vooral marketing zijn, kunt u nu de namen lezen van de mensen die deze brieven vanuit de sector zelf hebben ondertekend. Dit zijn niet de gebruikelijke externe critici. Het zijn de mensen die deze systemen bouwen voor hun broodwinning.

Eén aspect heeft wel directe gevolgen voor u. Als modellen sjoemelen bij hun eigen evaluaties, zeggen ranglijsten minder uit dan ze beweren. Veel mensen baseren hun keuze voor een AI-abonnement juist op die ranglijsten.