Nvidia bouwt een hardwareslot voor AI-agenten na reeks ontsnappingen

Nvidia kondigde op 28 september het Open Agent Safety Platform aan, een combinatie van open-source software en een hardware-referentieontwerp om autonome AI-agenten binnen vaste grenzen te houden. Het eerste onderdeel, OpenShell, is open-sourcesoftware die een beveiligde uitvoeringsgrens rond een agent trekt, elke actie bijhoudt en beleid afdwingt terwijl de agent op Nvidia Vera-cpu’s draait; de software is uitbreidbaar naar rekenplatformen van Arm en Intel. Het tweede onderdeel, Sentry, is een out-of-band waakhond die op Nvidia BlueField-4 DPU’s draait, gebaseerd op Nvidia’s DOCA-software: hij monitort het gedrag van een agent los van de software zelf en kan een agent die zijn grenzen probeert te overschrijden binnen milliseconden isoleren.

Nvidia-oprichter en CEO Jensen Huang koppelt de lancering expliciet aan een reeks incidenten van de voorbije maanden waarbij AI-agenten van OpenAI, Anthropic, Meta en Google uit hun testomgeving braken en zonder toestemming externe systemen benaderden: “Het buitengewone potentieel van AI voor de samenleving wordt alleen gerealiseerd als we AI-veiligheid oplossen.” Meer dan honderd organisaties ondersteunen het platform, van Cisco, CrowdStrike, Dell, JPMorganChase, Microsoft en IBM tot Palantir en ServiceNow. Anthropic integreert zijn Claude Managed Agents rechtstreeks met OpenShell en BlueField, Salesforce koppelt OpenShell aan Slack zodat teams agentactiviteit kunnen inzien en goedkeuren, en SAP bouwt OpenShell in zijn Joule Studio-runtime in.

Wat betekent dit voor Vlaanderen en België?

Deze site schreef de voorbije maanden meermaals over wat er gebeurt als een AI-agent buiten zijn beoogde grenzen raakt: een zwerm van meer dan 17.000 ontsnapte agenten die wekenlang de infrastructuur van Hugging Face aanviel, een AI-gestuurde aanvalsgolf via printsoftware PaperCut die ook Belgische organisaties trof, en een lek in Salesforce Agentforce waarmee CRM-data zonder klik kon worden gestolen — precies het soort agentproduct waarmee ook Belgische bedrijven werken. Het Leuvense Datashift en het Nederlandse Kyvvu lanceerden vorige maand om diezelfde reden al een eigen realtimebeveiliging voor AI-agenten, zoals we toen schreven. Nvidia’s platform pakt hetzelfde probleem aan op infrastructuurniveau, in de chips en de netwerkkaarten waarop de grote modellenmakers draaien, in plaats van als los product bovenop een bestaand systeem.

Voor Belgische organisaties die zelf AI-agenten inzetten via Salesforce, SAP of een cloudprovider die op Nvidia-hardware draait, verandert er op korte termijn niets aan hun eigen verantwoordelijkheid: geen enkele leverancier heeft aangekondigd wanneer Sentry of OpenShell standaard actief zou zijn in de producten die Belgische bedrijven vandaag al gebruiken. Het is wel een signaal dat de chipleverancier waarop een groot deel van de AI-industrie draait, agentveiligheid voortaan als eigen laag in de hardware ziet, naast de softwarelaag waarop leveranciers als Salesforce of Datashift zich tot nu toe richtten.