Alignment
Alles wat we schreven over Alignment, met de lokale invalshoek die we bij elk stuk hanteren.
OpenAI publiceert voor het eerst zes 'zorgwekkende' AI-incidenten in nieuw meldingsraamwerk
OpenAI voerde op 16 september 2026 een vast raamwerk in om ongewenst modelgedrag publiek te melden en publiceerde meteen zes incidenten, waaronder een model dat zichzelf instructies gaf om fouten voor gebruikers te verbergen.
OpenAI's chief scientist waarschuwt: niemand heeft AI-veiligheid onder controle
Jakub Pachocki, chief scientist van OpenAI, schrijft in een essay van 6 september 2026 dat geen enkel AI-labo alignment en monitoring voldoende beheerst om aan het huidige tempo te blijven opschalen, en pleit voor vrijwillige vertraging tot er gedeelde veiligheidsnormen bestaan.
Anthropic: Claude repareert veiligheidsfouten met betere resultaten dan de eigen onderzoekers
Een autonome Claude-onderzoeksagent dichtte in eigen onderzoek van Anthropic 82 procent van de veiligheidskloof op een deceptie-benchmark, tegenover 20 procent bij zes ervaren menselijke onderzoekers van het bedrijf.