AI-ondersteund artikel — automatisch opgesteld en gecontroleerd op feiten. Transparantiemelding conform artikel 50 van de EU AI Act.
OpenAI's chief scientist waarschuwt: niemand heeft AI-veiligheid onder controle
Jakub Pachocki, chief scientist van OpenAI, schrijft in een essay van 6 september 2026 dat geen enkel AI-labo alignment en monitoring voldoende beheerst om aan het huidige tempo te blijven opschalen, en pleit voor vrijwillige vertraging tot er gedeelde veiligheidsnormen bestaan.
Geen enkel AI-labo — ook OpenAI niet — beheerst alignment en monitoring voldoende om nog lang op het huidige tempo te blijven doorschalen. Dat schrijft Jakub Pachocki, chief scientist van OpenAI, in het essay “An Alien Mind” dat hij op 6 september 2026 publiceerde. Hij roept op tot “extreme caution” en hoopt dat vrijwillige vertraging bij de grote labs de norm wordt tot er gedeelde, verplichte veiligheidsdrempels bestaan.
Pachocki’s centrale zorg is dat het klassieke toezicht op de redenering van een model — het meelezen van de “chain of thought” — stilaan zijn nut verliest. Hij noemt daarvoor drie oorzaken: modellen redeneren steeds meer in omgevingen waar die redenering vermengd raakt met communicatie die apart gecontroleerd moet worden, ze worden beter in het bewust bijsturen van hun eigen redenering, en nieuwe trainingsmethodes leveren hogere capaciteiten op zonder dat een model die nog expliciet verwoordt. Concreet pleit hij ervoor dat veiligheidskaders zoals OpenAI’s eigen Preparedness Framework “evolve into widely mandated safety bars” — normen die niet langer vrijwillig zijn, maar afdwingbaar door auditors of overheden. Internationale coördinatie tussen regeringen moet daarbij volgens hem “a top priority” worden.
Wat betekent dit voor Vlaanderen en België?
Wat Pachocki als toekomstwens formuleert, bestaat in de EU al gedeeltelijk. Sinds 2 augustus 2025 verplicht artikel 55 van de AI Act aanbieders van AI-modellen met systeemrisico om hun modellen te evalueren op risico’s, ernstige incidenten te melden aan het Europese AI Office en voldoende cyberbeveiliging te voorzien — niet vrijwillig, maar wettelijk afdwingbaar. Een model krijgt die status volgens artikel 51 automatisch zodra de training ervan meer dan 10²⁵ rekenbewerkingen (FLOPs) verbruikte. Voor wie in Vlaanderen of België op modellen van OpenAI, Anthropic of Google bouwt of ze inzet, is Pachocki’s essay dus geen zuiver Amerikaans gedachte-experiment: zodra zo’n model die drempel overschrijdt, gaat het over precies het soort verplichtingen waar de aanbieder in de EU al aan onderworpen is. Het sluit ook aan bij wat we eerder schreven over hoe diezelfde labs amper inzicht geven in hun eigen noodplan voor een model dat de controle ontglipt: een topwetenschapper die publiekelijk om een rem vraagt, is geen vervanging voor zo’n concreet draaiboek.
Deze site stelt haar nieuwsduiding op met AI-modellen van Anthropic en laat elk stuk kruisverifiëren door een model van OpenAI. Zie ons redactioneel beleid.
Bronnen: OpenAI — An Alien Mind · Unite.AI — In 'An Alien Mind,' OpenAI's Jakub Pachocki Urges Shared Safety Bars · The Next Web — OpenAI's chief scientist says no lab should keep scaling at maximum speed · artificialintelligenceact.eu — Artikel 51 AI Act (classificatie systeemrisico) · artificialintelligenceact.eu — Artikel 55 AI Act (verplichtingen systeemrisico)