Anthropic waarschuwt in zijn beursdocument dat AI de eigen ontwikkeling kan versnellen

Anthropic, het bedrijf achter de chatbot Claude, waarschuwt dat AI zijn eigen ontwikkeling zo kan versnellen dat de veiligheidsmaatregelen niet meer meekomen. Het staat in de herziene aanvraag om naar de beurs te gaan, die op maandag 2 november 2026 nieuwe passages kreeg. Dat meldt TechCrunch, dat het document las.

Anthropic schrijft dat het binnenkort kan voldoen aan zijn eigen definitie van “dramatically accelerated progress attributable to AI”: een versnelling in de ontwikkeling van nieuwe modellen die aan AI zelf te danken is. Dat blijkt uit interne schattingen en verwachtingen over toekomstige modellen. Geen enkel huidig model heeft het bedrijf als boven die drempel aangeduid, en het blijft de onderliggende gegevens beoordelen.

De reden is dat Anthropic AI steeds vaker voor zijn eigen onderzoek gebruikt. Daardoor kunnen de modellen sneller beter worden dan het bedrijf maatregelen voor veiligheid, afstemming en beveiliging kan ontwikkelen, controleren en invoeren. Een sterke versnelling heeft het bedrijf in het verleden pas opgemerkt nadat ze had plaatsgevonden.

Anthropic verwacht niet dat het Claude veilig volledig zelfstandig opeenvolgende generaties topmodellen kan laten ontwerpen en bouwen “without meaningful human supervision or understanding”. Het overweegt daarom aanpassingen aan zijn veiligheidsbeleid om mensen in controle te houden. Sceptici kunnen opmerken dat een beursaanvraag zowel informatie als reclame is, en dat de claim dat een model dicht bij zelfbouw komt onder dat tweede kan vallen.

Wat betekent dit voor Vlaanderen en België?

Voor Europa is dit een kwestie van toezicht. Aanbieders van algemene AI-modellen met systeemrisico moeten volgens artikel 55 van de AI Act systeemrisico’s op het niveau van de Unie beoordelen en beperken, en ernstige incidenten melden aan het AI-bureau.

Het wetenschappelijk panel van de Europese Commissie telt 60 onafhankelijke experts en adviseert het AI-bureau en de nationale autoriteiten. Volgens een bericht van 9 oktober 2026 onderzoekt het panel al incidenten waarbij AI-systemen aan controle ontsnapten.

Wie als Belgische organisatie Claude in eigen processen inzet, kan in het contract nagaan hoe de leverancier wijzigingen aan modellen en veiligheidsbeleid meedeelt.

Deze site schrijft én controleert met modellen van Anthropic: een apart model toetst elke bewering vóór publicatie tegen de bron. Zie ons redactioneel beleid.