Your AI Just Started Making Decisions. Who Told It To?Jouw AI neemt nu besluiten. Wie heeft dat bepaald?

6 min read · By Jeroen Janssen6 min leestijd · Door Jeroen Janssen

Last updated: April 2, 2026Laatst bijgewerkt: 2 april 2026

There are two shifts happening in enterprise AI. The first one — the move from experimentation to deployment — got all the attention. Every conference, every board meeting, every vendor pitch for the last three years has been about that shift. It’s settled. AI is operational. Congratulations.Er voltrekken zich twee verschuivingen in enterprise-AI. De eerste — de overgang van experiment naar inzet — kreeg alle aandacht. Elke conferentie, elke bestuursvergadering, elke leverancierspresentatie van de afgelopen drie jaar ging over die verschuiving. Die is beslecht. AI is operationeel. Gefeliciteerd.

The second shift is the one nobody in the boardroom is ready for.De tweede verschuiving is degene waar niemand in de bestuurskamer op voorbereid is.

AI is no longer a tool inside your workflows. It is becoming an actor within them. Agents plan. Agents decide. Agents act. And increasingly, they do so without waiting for anyone to tell them what to do.AI is niet langer een hulpmiddel binnen uw werkprocessen. Het wordt een actor daarbinnen. Agents plannen. Agents beslissen. Agents handelen. En steeds vaker doen ze dat zonder op instructies te wachten.

This is not a technology upgrade. This is a change in the nature of what you’re governing. And the uncomfortable truth is that most organizations are adopting agentic AI with governance models designed for spreadsheets.Dit is geen technologie-upgrade. Dit is een verandering in de aard van wat u bestuurt. En de ongemakkelijke waarheid is dat de meeste organisaties agentische AI invoeren met besturingsmodellen die ontworpen zijn voor spreadsheets.

What an Agent Actually IsWat een agent werkelijk is

Let’s be precise, because the language matters.Laten we precies zijn, want taal doet ertoe.

An AI agent is not a chatbot with better prompts. Google’s recently published reference architecture for agent systems makes the engineering explicit: agents are composite systems that combine reasoning models, tool access, persistent memory, orchestration layers, security controls, and observability infrastructure. They interpret goals. They choose actions. They invoke tools, observe outcomes, and adapt — in loops, without continuous human instruction.Een AI-agent is geen chatbot met betere prompts. De onlangs gepubliceerde referentiearchitectuur van Google voor agentsystemen maakt de techniek expliciet: agents zijn samengestelde systemen die redeneermodellen, gereedschapstoegang, persistent geheugen, orkestratielagen, beveiligingsmaatregelen en observatie-infrastructuur combineren. Ze interpreteren doelen. Ze kiezen acties. Ze roepen hulpmiddelen aan, observeren uitkomsten en passen zich aan — in lussen, zonder voortdurende menselijke instructie.

This is not speculative architecture. It is being formalized, standardized, and deployed right now, at scale, by the companies building the infrastructure your organization depends on.Dit is geen speculatieve architectuur. Het wordt op dit moment geformaliseerd, gestandaardiseerd en op schaal uitgerold door de bedrijven die de infrastructuur bouwen waar uw organisatie van afhankelijk is.

And here’s what changes when you deploy an agent instead of a tool. A tool does what you tell it. An agent does what it interprets you meant. The gap between those two things is where your next crisis lives.En dit verandert er wanneer u een agent inzet in plaats van een hulpmiddel. Een hulpmiddel doet wat u zegt. Een agent doet wat hij interpreteert dat u bedoelde. Het verschil tussen die twee is waar uw volgende crisis huist.

The System ProblemHet systeemprobleem

SURF — the collaborative ICT organization for Dutch education and research — published its Tech Trends 2026 report with a framing that most enterprise strategists haven’t absorbed yet. AI is not a standalone innovation. It is a system technology. One that permeates computing layers, data infrastructure, security models, organizational operations, and institutional autonomy simultaneously.SURF — de samenwerkende ICT-organisatie voor het Nederlandse onderwijs en onderzoek — publiceerde haar Tech Trends 2026-rapport met een framing die de meeste enterprise-strategen nog niet hebben doorgrond. AI is geen op zichzelf staande innovatie. Het is een systeemtechnologie. Eén die tegelijkertijd doordringt in rekenlagen, data-infrastructuur, beveiligingsmodellen, organisatorische bedrijfsvoering en institutionele autonomie.

This distinction matters enormously, because system technologies do not fail locally. They fail structurally.Dit onderscheid is van enorm belang, want systeemtechnologieën falen niet lokaal. Ze falen structureel.

When your AI was a tool — a summarizer, a classifier, a recommendation engine — failure was contained. The tool gave a bad output. Someone caught it. You fixed it. The blast radius was small.Toen uw AI een hulpmiddel was — een samenvatter, een classificeerder, een aanbevelingsmotor — bleef falen beheersbaar. Het hulpmiddel gaf een slechte uitkomst. Iemand merkte het op. U loste het op. De schaderadius was klein.

When your AI is a system technology acting through agents, failure propagates. An agent makes a decision based on data from one system, triggers an action in another, and produces an outcome that no single person designed, approved, or — critically — can fully trace back to its origin. The failure doesn’t look like a wrong answer. It looks like a quarter where the numbers don’t add up and nobody can explain why.Wanneer uw AI een systeemtechnologie is die via agents handelt, plant falen zich voort. Een agent neemt een besluit op basis van data uit één systeem, triggert een actie in een ander systeem en produceert een uitkomst die niemand heeft ontworpen, goedgekeurd of — cruciaal — volledig kan herleiden tot de oorsprong. Het falen ziet er niet uit als een fout antwoord. Het ziet eruit als een kwartaal waarin de cijfers niet kloppen en niemand kan uitleggen waarom.

This is not a hypothetical. This is the operational reality that every organization deploying agentic workflows is walking toward. Most of them just don’t know it yet, because the agents are still small and the loops are still short. Give it eighteen months.Dit is geen hypothetisch scenario. Dit is de operationele werkelijkheid waar elke organisatie die agentische workflows uitrolt naartoe loopt. De meesten weten het alleen nog niet, omdat de agents nog klein zijn en de lussen nog kort. Geef het achttien maanden.

The Illusion of ControlDe illusie van controle

Most organizations believe they are in control of their AI because they can point to artifacts. We have a platform. We have a model strategy. We have a governance framework. We have a roadmap.De meeste organisaties geloven dat ze hun AI onder controle hebben omdat ze naar artefacten kunnen wijzen. We hebben een platform. We hebben een modelstrategie. We hebben een governanceraamwerk. We hebben een routekaart.

None of these are control. They are intentions about control.Niets hiervan is controle. Het zijn voornemens over controle.

Control, in an agentic context, means something very specific. It means you can detect when an agent’s behavior deviates from its intended purpose — not after the fact, not in a quarterly review, but in real time. It means you have instrumentation, telemetry, continuous evaluation, and human feedback loops that actually function under operational pressure. Google’s agent architecture literature is explicit about this: Agent Ops is not optional overhead. It is the mechanism that makes agentic deployment governable at all.Controle betekent in een agentische context iets heel specifieks. Het betekent dat u kunt detecteren wanneer het gedrag van een agent afwijkt van het beoogde doel — niet achteraf, niet in een kwartaalreview, maar in realtime. Het betekent dat u instrumentatie, telemetrie, continue evaluatie en menselijke feedbacklussen heeft die daadwerkelijk functioneren onder operationele druk. De literatuur over agentarchitectuur van Google is hier expliciet over: Agent Ops is geen optionele overhead. Het is het mechanisme dat agentische inzet überhaupt bestuurbaar maakt.

Now ask yourself honestly: does your organization have that? Not on the roadmap. Not in the proposal. Right now. Today.Stel uzelf nu eerlijk de vraag: heeft uw organisatie dat? Niet op de routekaart. Niet in het voorstel. Nu. Vandaag.

Because here’s what happens without it. Agents operate. Outcomes emerge. Some are good, some are ambiguous, some are quietly wrong. But because the system is complex and the agents are acting autonomously, the bad signals don’t surface through normal channels. They get filtered. They get rationalized. They get absorbed into the organizational narrative of progress — because momentum exists, investment is visible, and nobody wants to be the person who says “I’m not sure we know what our own systems are doing.”Want dit gebeurt er zonder. Agents functioneren. Uitkomsten verschijnen. Sommige zijn goed, sommige zijn dubbelzinnig, sommige zijn stilletjes fout. Maar omdat het systeem complex is en de agents autonoom handelen, komen de slechte signalen niet via de normale kanalen naar boven. Ze worden gefilterd. Ze worden gerationaliseerd. Ze worden opgenomen in het organisatieverhaal van vooruitgang — want er is momentum, de investering is zichtbaar, en niemand wil degene zijn die zegt „ik weet niet zeker of we weten wat onze eigen systemen aan het doen zijn.“

This is not a technical gap. It is an organizational one. And it is the most dangerous kind, because it feels like competence.Dit is geen technisch gat. Het is een organisatorisch gat. En het is de gevaarlijkste soort, omdat het aanvoelt als competentie.

The Accountability VoidHet verantwoordingsvacuüm

Enterprise architecture has actually anticipated this problem for longer than the AI discourse suggests. The Open Group’s IT4IT standard — now in its third major version — makes one principle central: digital systems must be managed across their entire lifecycle, from evaluation and exploration through integration, operation, and consumption. With clear ownership. With contracts. With feedback loops. Agentic AI stresses every weak seam in that lifecycle.Enterprise-architectuur heeft dit probleem feitelijk al langer voorzien dan het AI-discours doet vermoeden. De IT4IT-standaard van The Open Group — inmiddels in de derde grote versie — stelt één principe centraal: digitale systemen moeten over hun gehele levenscyclus worden beheerd, van evaluatie en verkenning tot integratie, exploitatie en gebruik. Met helder eigenaarschap. Met contracten. Met feedbacklussen. Agentische AI belast elke zwakke naad in die levenscyclus.

Who owns an agent’s decisions when the agent was designed by engineering, trained on data managed by analytics, deployed by IT, and acts on processes owned by operations? Who is accountable when two agents interact and produce an outcome that neither was individually designed to create? Where is the evidence captured — not in a log file that nobody reads, but in a form that can withstand regulatory scrutiny?Wie is eigenaar van de besluiten van een agent wanneer die agent is ontworpen door engineering, getraind op data beheerd door analytics, uitgerold door IT en handelt in processen die onder operaties vallen? Wie is verantwoordelijk wanneer twee agents samenwerken en een uitkomst produceren die geen van beide afzonderlijk was ontworpen om te creëren? Waar wordt het bewijs vastgelegd — niet in een logbestand dat niemand leest, maar in een vorm die toezichthouders doorstaat?

And here is the question that should concern boards most directly: how do you escalate a risk when the system’s behavior hasn’t technically failed — it has merely drifted? When the agent is still operating within its parameters, still producing outputs, still looking functional — but the gap between what it’s doing and what you think it’s doing is widening, invisibly, every day?En hier is de vraag die bestuurders het meest direct zou moeten bezighouden: hoe escaleert u een risico wanneer het gedrag van het systeem technisch niet heeft gefaald — maar slechts is afgedreven? Wanneer de agent nog steeds binnen zijn parameters opereert, nog steeds output produceert, nog steeds functioneel oogt — maar de kloof tussen wat hij doet en wat u denkt dat hij doet elke dag onzichtbaar groter wordt?

Without explicit answers to these questions, organizations drift into what looks like progress but behaves like accumulated exposure. Every day the agent runs without incident feels like validation. It isn’t. It’s just a day where the deviation hasn’t become visible yet.Zonder expliciete antwoorden op deze vragen drijven organisaties af naar iets dat eruitziet als vooruitgang maar zich gedraagt als opgestapelde blootstelling. Elke dag dat de agent zonder incidenten draait voelt als bevestiging. Dat is het niet. Het is slechts een dag waarop de afwijking nog niet zichtbaar is geworden.

What Agentic AI Actually DemandsWat agentische AI werkelijk vereist

The sources converge on a conclusion that most organizations are not yet willing to hear.De bronnen convergeren naar een conclusie die de meeste organisaties nog niet willen horen.

Agentic AI does not need better strategy decks. It needs a fundamentally different relationship between the organization and its own assumptions.Agentische AI heeft geen betere strategiepresentaties nodig. Het vereist een fundamenteel andere relatie tussen de organisatie en haar eigen aannames.

In a tool-based world, you could get away with implicit assumptions. The tool was bounded. The human was in the loop. The worst case was a bad output that someone caught.In een wereld van hulpmiddelen kon u wegkomen met impliciete aannames. Het hulpmiddel was begrensd. De mens zat in de lus. Het slechtste geval was een slechte uitkomst die iemand opmerkte.

In an agentic world, implicit assumptions become systemic vulnerabilities. Because the agent acts on them. At speed. At scale. Without checking.In een agentische wereld worden impliciete aannames systemische kwetsbaarheden. Omdat de agent ernaar handelt. Op snelheid. Op schaal. Zonder controle.

This demands three capabilities that almost no organization has operationalized.Dit vereist drie vermogens die vrijwel geen enkele organisatie heeft geoperationaliseerd.

1. Assumption transparency.Transparantie van aannames. Every agentic deployment encodes assumptions — about data quality, about user behavior, about process stability, about what “good” looks like. These assumptions must be made explicit, documented, and testable. Not as a compliance exercise. As a survival mechanism. Because the agent will optimize for whatever reality it perceives, and if that perception is wrong, it will optimize in the wrong direction with perfect confidence.Elke agentische inzet bevat gecodeerde aannames — over datakwaliteit, over gebruikersgedrag, over processtabiliteit, over wat „goed“ eruitziet. Deze aannames moeten expliciet worden gemaakt, gedocumenteerd en toetsbaar zijn. Niet als nalevingsoefening. Als overlevingsmechanisme. Want de agent optimaliseert voor welke werkelijkheid hij ook waarneemt, en als die waarneming onjuist is, optimaliseert hij in de verkeerde richting met perfect vertrouwen.
2. Deviation detection.Afwijkingsdetectie. Not error detection — deviation detection. Errors are obvious. Deviations are subtle. The agent produces reasonable-looking outputs that are slightly misaligned with intent, and nobody notices because the output is plausible and the system is complex. By the time the deviation is large enough to trigger an alarm, the damage is structural. You need instrumentation that catches drift, not just failure.Geen foutdetectie — afwijkingsdetectie. Fouten zijn evident. Afwijkingen zijn subtiel. De agent produceert redelijk ogende output die licht afwijkt van de bedoeling, en niemand merkt het op omdat de output plausibel is en het systeem complex. Tegen de tijd dat de afwijking groot genoeg is om een alarm te activeren, is de schade structureel. U heeft instrumentatie nodig die drift detecteert, niet alleen falen.
3. Adversarial stress testing.Vijandige stresstests. Not once. Not annually. Continuously. Because agentic systems interact with changing data, changing environments, and — increasingly — other agents. The conditions under which your agent was validated last month may not be the conditions it’s operating in today. If you’re not testing against realistic failure scenarios on an ongoing basis, you’re relying on the assumption that nothing important has changed. In an agentic world, that assumption is almost always wrong.Niet eenmalig. Niet jaarlijks. Doorlopend. Omdat agentische systemen interacteren met veranderende data, veranderende omgevingen en — in toenemende mate — andere agents. De omstandigheden waaronder uw agent vorige maand is gevalideerd, hoeven niet de omstandigheden te zijn waaronder hij vandaag opereert. Als u niet doorlopend test tegen realistische faalscenario’s, vertrouwt u op de aanname dat er niets belangrijks is veranderd. In een agentische wereld klopt die aanname vrijwel nooit.

Why Strategic Red TeamingWaarom Strategic Red Teaming

This is the work that Strategic Red Teaming was built for.Dit is het werk waarvoor Strategic Red Teaming is gebouwd.

Not a compliance audit that checks boxes. Not a risk register that catalogs concerns. A structured, adversarial confrontation between what your organization believes about its AI systems and what those systems are actually doing.Geen nalevingsaudit die vakjes afvinkt. Geen risicoregister dat zorgen catalogiseert. Een gestructureerde, vijandige confrontatie tussen wat uw organisatie gelooft over haar AI-systemen en wat die systemen werkelijk doen.

At Apparens, we apply Strategic Red Teaming as an operating discipline — purpose-built for the reality that agentic AI creates. Every assumption is surfaced. Every hypothesis is stress-tested across technology, data, people, governance, and external constraints. Every agent-enabled initiative is examined not just for what it promises, but for what it quietly depends on.Bij Apparens passen wij Strategic Red Teaming toe als operationele discipline — doelgericht gebouwd voor de werkelijkheid die agentische AI creëert. Elke aanname wordt boven water gehaald. Elke hypothese wordt gestressttest over technologie, data, mensen, governance en externe beperkingen. Elk agent-gestuurd initiatief wordt onderzocht niet alleen op wat het belooft, maar op waar het stilzwijgend van afhankelijk is.

Tens of thousands of scenarios. Hundreds of hypotheses. A diagnostic that goes deeper than any dashboard, any internal review, any governance framework designed for a world where AI waited for instructions.Tienduizenden scenario’s. Honderden hypotheses. Een diagnose die dieper gaat dan welk dashboard, welke interne review, welk governanceraamwerk dan ook dat is ontworpen voor een wereld waarin AI op instructies wachtte.

The output is not certainty. No strategy has that.De uitkomst is geen zekerheid. Geen enkele strategie heeft dat.

The output is clarity. What is evidence-backed. What is still belief. Where control is real. And where it is theater.De uitkomst is helderheid. Wat onderbouwd is met bewijs. Wat nog geloof is. Waar controle echt is. En waar het toneel is.