AI-hallucinatie bracht Amerikaans leger bijna in conflict met China

Een analist van het Amerikaanse Special Operations Command gebruikte afgelopen lente een AI-chatbot om open bronnen en geclassificeerde signaalinlichtingen over een Chinees schip in het Midden-Oosten te combineren tot een inlichtingenrapport. De chatbot concludeerde daarbij ten onrechte dat het schip onderdelen voor een kernwapenprogramma vervoerde, melden TechCrunch en Tech Times. Het rapport verspreidde zich vervolgens door het leger, tot Amerikaanse functionarissen de fout ontdekten terwijl militaire vliegtuigen al in de lucht waren en militairen zich klaarmaakten om aan boord te gaan. Het rapport was “entirely false”, aldus een bron die met CNN sprak en door Tech Times wordt aangehaald. Volgens die bron had de episode “almost started a war”.

Democratische senatoren Mark Warner, Jack Reed en Chris Coons stuurden op 19 september 2026 een brief aan defensieminister Pete Hegseth en inlichtingendirecteur Jay Clayton waarin ze een “immediate investigation by relevant Inspectors General” eisen, meldt Military.com. De senatoren zeggen zich zorgen te maken over hoe overheidsdiensten “prioritized acceleration of AI capability adoption and ‘experimentation’ over effective governance”. Het incident speelde zich af tegen de achtergrond van Hegseths eigen Artificial Intelligence Acceleration Strategy van januari 2026, waarin hij aankondigde “bureaucratic barriers” voor AI-gebruik binnen het leger te willen wegnemen. Welke chatbot de analist precies gebruikte, maakte geen van de bronnen bekend.

Wat betekent dit voor Vlaanderen en België?

Dit gebeurde binnen het Amerikaanse leger, en de AI Act zou er sowieso niet op van toepassing zijn geweest: artikel 2 van de verordening sluit AI-systemen die uitsluitend voor militaire, defensie- of nationaleveiligheidsdoeleinden worden gebruikt, expliciet uit van het toepassingsgebied — “regardless of the type of entity carrying out those activities”. Voor Belgische en Europese organisaties die wél onder de verordening vallen, legt artikel 14 aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen op dat die systemen zo ontworpen en ingezet moeten worden dat een mens ze tijdens het gebruik effectief kan overzien, kan ingrijpen en kan stilleggen. Die verplichting geldt evenwel nog niet: ze gaat pas in op 2 december 2027 voor de hoogrisicosystemen uit bijlage III, en op 2 augustus 2028 voor die uit bijlage I.

Dat een analist een AI-conclusie ongecontroleerd liet doorstromen tot op het punt dat wapens en manschappen al bewogen, is precies het soort scenario waarvoor die latere Europese verplichting bedoeld is: niet het gebruik van AI verbieden, maar garanderen dat een mens de uitkomst kan tegenhouden vóór ze gevolgen krijgt. Wie in België AI straks inzet bij een hoogrisicobeslissing die artikel 14 beoogt — kredietbeoordeling en aanwerving staan bijvoorbeeld op de lijst van bijlage III — krijgt dezelfde vraag voorgeschoteld die dit incident blootlegt: zit er een mens in de keten die de AI-uitkomst ook effectief kan corrigeren, of wordt “menselijk toezicht” een formaliteit die niemand nog uitvoert omdat het systeem meestal gelijk heeft?