Microsoft-topman Nadella wil een noodrem op AI-modellen

Microsoft-ceo Satya Nadella vindt dat we AI-modellen moeten behandelen alsof ze al gecompromitteerd zijn. In een bericht op X op zaterdag 10 oktober 2026 schreef hij volgens TechCrunch dat het tijd is “to step back and assess the trust architecture” van AI, en dat het model “from the start” moet worden ingedamd: “Think of it like an emergency brake.”

Wat stelt Nadella voor?

Volgens TechCrunch schrijft Nadella dat we superintelligentie niet langer kunnen behandelen als “a set of nested black boxes” waarvan we de antwoorden en acties gewoon aanvaarden of verwerpen. Hij noemt vijf maatregelen:

• het model scheiden van de omgeving die zijn werk aanstuurt;
• controles en waarborgen buiten het model zelf leggen;
• elke belangrijke actie van het model vastleggen met “tamper-proof human readable evidence”;
• een bevoegde persoon altijd laten kunnen ingrijpen: een model halverwege een taak pauzeren of stilleggen;
• ervan uitgaan dat een model gecompromitteerd is en het van meet af aan indammen.

TechCrunch plaatst het bericht tegen de achtergrond van een reeks incidenten waarin AI-bedrijven de controle over hun modellen leken te verliezen. Anthropic zei dat het “all our internal evaluations” van het live internet heeft losgekoppeld tot nader order. Over concrete incidenten bij Microsoft zelf, een tijdpad of de manier waarop dit afgedwongen zou worden, bevat het artikel niets.

Wat betekent dit voor Vlaanderen en België?

Een deel van wat Nadella vraagt, staat in Europa al op papier, maar voor één categorie spelers. Volgens artikel 55 van de AI Act moeten aanbieders van algemene AI-modellen met systeemrisico ernstige incidenten en mogelijke corrigerende maatregelen bijhouden, documenteren en zonder onnodige vertraging melden aan het Europese AI Office, en waar passend ook aan nationale bevoegde autoriteiten. De wettekst zegt niets over een noodrem of een menselijke stopknop; Nadella’s voorstel gaat dus verder dan die meldplicht. Over de vraag hoe AI-labs een model dat de controle ontglipt zouden indammen, schreven we eerder al in een stuk over ontbrekende noodplannen.

Voor een Vlaamse of Belgische organisatie die een AI-agent taken laat uitvoeren, is Nadella’s lijst vooral bruikbaar als vragenlijst voor de leverancier. Kan een verantwoordelijke de agent halverwege stilleggen? Zit het logboek buiten het model, en kan niemand het achteraf aanpassen? Wie dat niet kan beantwoorden, weet ook niet wat er bij een incident te melden of te herstellen valt.