Governance is niet wat u claimt, het is wat u kunt bewijzen
· Jeroen Janssen (Apparens) · Host: Ronald Israels
Een webinar over AI governance, opgenomen voor de KNVI (Koninklijke Nederlandse Vereniging van Informatieprofessionals) op 20 mei 2026. Jeroen Janssen, oprichter van Apparens, bespreekt in vier delen wat AI governance werkelijk is, waar het in organisaties misgaat, en hoe je een verdedigbare governance positie bereikt: een toestand die een eerste toets van een auditor of toezichthouder kan doorstaan. Aan bod komen de bredere kosten van AI, vijf veelvoorkomende faalmodi, het recht op vergetelheid onder AVG en GDPR bij modellen en vector databases, en de grens tussen een verdedigbare positie en operationele controle: de runtime van agentic AI. Host is Ronald Israels. Engelse ondertiteling is beschikbaar in de speler.
Het in de presentatie getoonde instrument is de AI Enterprise Control Index, met circa 130 controls en een crosswalk naar ISO 42001, NIST en de EU AI Act. Meer over Apparens. De thema's worden verder uitgewerkt in het boek AI Accountability: De Valkuil.
Bronnen
Geverifieerde bronnen
Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021. Het boek dat in de presentatie wordt getoond en geparafraseerd.
Kobalt en de Democratische Republiek Congo. De verwijzing naar kobaltmijnen sluit aan bij gedocumenteerd onderzoek, onder meer Siddharth Kara, Cobalt Red: How the Blood of the Congo Powers Our Lives, St. Martin's Press, 2023.
Open brief van Keniaanse techwerkers aan president Biden. Gepubliceerd op 22 mei 2024, ondertekend door circa 97 Afrikaanse, overwegend Keniaanse data-labelers en content moderators, voorafgaand aan het staatsbezoek van de Keniaanse president Ruto. De brief noemt de arbeidsomstandigheden “modern day slavery” en richt zich op onder meer Meta, OpenAI en Scale AI.
Context “Silicon Savannah”: CBS 60 Minutes, 24 november 2024.
Geoffrey Hinton over radiologen. Uitspraak tijdens een Creative Destruction Lab-seminar in Toronto in 2016, dat men zou moeten stoppen met het opleiden van radiologen omdat deep learning hen binnen vijf jaar zou overtreffen. De voorspelling is niet uitgekomen; er is juist een tekort aan radiologen.
Elon Musk over autonome auto’s. Fortune, interview door Kirsten Korosec, 21 december 2015, met de voorspelling van volledige autonomie binnen ongeveer twee jaar. Niet uitgekomen binnen die termijn.
Storm-1516. Pro-Russische beïnvloedingsoperatie die meer dan honderd Duitstalige nepnieuws-websites opzette, deels met generatieve AI, gericht op de Duitse Bondsdagverkiezingen van februari 2025. Onderzocht door onder meer Correctiv, NewsGuard en Viginum.
Stanford HAI AI Index 2026. Gepubliceerd in april 2026. Volgens data van Epoch AI brachten in de Verenigde Staten gevestigde organisaties in 2025 circa 50 “notable” modellen uit, tegenover 30 uit China; uit Europa zeer weinig, waaronder Frankrijk. De koppeling van het Franse model aan Mistral is de duiding van de spreker.
Malta en ChatGPT. OpenAI en de Maltese overheid kondigden op 16 mei 2026 het programma “AI for All” aan: een jaar gratis ChatGPT Plus voor inwoners die eerst een AI-geletterdheidscursus van de Universiteit van Malta afronden. De eerste fase startte in mei 2026.
Firefox-kwetsbaarheden en AI. Mozilla verhielp in april 2026 een recordaantal van 423 kwetsbaarheden in Firefox, mede dankzij AI; in heel 2025 ging het om 258. Een groot deel werd ontdekt met het AI-model Claude Mythos Preview. In de talk noemt de spreker een cijfer van 496; het geverifieerde aantal is 423.
McKinsey “Lilli”. Beveiligingsbedrijf CodeWall meldde op 9 maart 2026 dat zijn autonome offensieve AI-agent binnen twee uur via een SQL-injectie volledige lees- en schrijftoegang kreeg tot de productiedatabase van Lilli, het interne AI-platform van McKinsey. Dit was responsible-disclosure-onderzoek, geen kwaadaardige aanval; McKinsey patchte de getroffen endpoints op 2 maart 2026, voor publicatie.
AFM over AI op de kapitaalmarkten. Sectorbericht van 13 april 2026, met het rapport “AI in Capital Markets: Balancing Innovation and Integrity”. De AFM waarschuwt dat zelflerende handelssystemen prijsvorming kunnen sturen zonder onderlinge afspraken, en dat manipulatie kan verschuiven naar de informatie waarop modellen draaien.
CISO Platform Nederland. Open brief van het bestuur aan de fractievoorzitters van de Tweede Kamer over de noodzaak digitale veiligheid tot nationale topprioriteit te maken, met onder meer een pleidooi voor een volwaardige minister van Digitale Zaken. De brief gaat breder over digitale weerbaarheid; de koppeling aan het Claude Mythos-betoog is de duiding van de spreker.
Claude Mythos en exploit-chaining. Anthropic bevestigde begin april 2026 dat Claude Mythos zonder aansturing een capaciteit voor offensieve cyberaanvallen ontwikkelde, en achtte het model te krachtig om regulier uit te brengen. In plaats daarvan vormde het een beperkt consortium, Project Glasswing, met onder meer Amazon, Apple, Google, Cisco, CrowdStrike, JPMorgan Chase, Microsoft en Nvidia. De Council on Foreign Relations beschrijft dat Mythos Preview exploits autonoom aan elkaar kon knopen tot exploit chains, verder dan eerdere modellen, en dat engineers zonder beveiligingstraining konden vragen om een remote-code-execution-kwetsbaarheid en de volgende ochtend een werkende exploit hadden. Dit onderbouwt de chaining-claim uit de presentatie.
AI Enterprise Control Index, Apparens: circa 130 controls over vier buckets, met crosswalk naar ISO 42001, NIST en de EU AI Act, plus een 90-dagenaanpak en een casus bij de gemeente Amsterdam. apparens.nl/ai-control-index
23-klassen ontologie voor runtime agent governance, Apparens, op apparens.nl.
Prof. dr. Maurits Kaptein, TU Eindhoven, over runtime enforcement (paper), en het bedrijf Kyvvu.
Governance-platforms: Saidot (Finland), Credo AI (Verenigde Staten), IBM watsonx, SAP. Runtime enforcement: Kyvvu, NeMo Guardrails, Lakera Guard.