Waarom organisaties AI-workers als collega's moeten behandelen

De afgelopen maanden zie ik steeds vaker organisaties experimenteren met AI-agents. Waar AI aanvankelijk vooral werd ingezet als hulpmiddel voor het genereren van tekst, code of analyses, zien we inmiddels een nieuwe ontwikkeling ontstaan. AI-systemen krijgen niet alleen toegang tot steeds meer informatie, maar krijgen ook de mogelijkheid om zelfstandig acties uit te voeren. Ze verwerken documenten, beantwoorden vragen, analyseren gegevens, schrijven code, starten workflows en nemen in sommige gevallen zelfs beslissingen binnen vooraf gestelde kaders.

De GitLost-casus van Noma Security

Die ontwikkeling werd recent opnieuw zichtbaar in de GitLost-casus van Noma Security. Onderzoekers lieten zien hoe een AI-agent kon worden beïnvloed om informatie uit private repositories op te halen en publiek beschikbaar te maken. Veel analyses richtten zich terecht op prompt injection, modelveiligheid en guardrails. Toch bleef bij mij vooral een andere observatie hangen. GitLost laat niet alleen zien dat AI kwetsbaarheden introduceert. Het laat vooral zien dat we AI-agents nog steeds behandelen als software, terwijl ze zich in de praktijk steeds meer gedragen als collega's. [noma.security]

Dat klinkt misschien als een semantische discussie, maar heeft grote gevolgen voor hoe we AI ontwerpen, implementeren en besturen. Jarenlang hebben we software gezien als gereedschap. Een applicatie voert een vooraf gedefinieerde taak uit. De logica ligt vast in code en het gedrag is grotendeels voorspelbaar. AI-agents functioneren fundamenteel anders. Zij lezen informatie uit verschillende bronnen, interpreteren context, combineren kennis, gebruiken tooling en voeren op basis daarvan acties uit. Niet omdat ze bewustzijn hebben, maar omdat we ze steeds vaker een rol geven die voorheen was voorbehouden aan kenniswerkers.  

Het laat vooral zien dat we AI-agents nog steeds behandelen als software, terwijl ze zich in de praktijk steeds meer gedragen als collega's.

Beschouw AI als een digitale collega

Zodra je AI als een digitale collega bekijkt in plaats van als een stuk software, verandert ook de discussie. Wanneer een nieuwe medewerker op zijn eerste werkdag begint, geven we die persoon niet automatisch toegang tot alle systemen, documenten en bedrijfsinformatie. We investeren eerst in onboarding. We leggen uit hoe de organisatie werkt, welke informatie relevant is, hoe besluiten tot stand komen en welke verantwoordelijkheden bij de rol horen. Niemand vindt het vreemd dat een nieuwe collega context nodig heeft voordat hij zelfstandig kan handelen.

Bij AI doen we vaak precies het tegenovergestelde. We koppelen een model aan data, geven toegang tot tooling en verwachten vervolgens dat het systeem waardevolle resultaten produceert. Daarmee slaan we misschien wel de belangrijkste stap over. Goede beslissingen ontstaan immers niet uit data alleen. Goede beslissingen ontstaan uit context.

AI-First Framework als basis

Dat uitgangspunt vormt ook de basis van het AI-First Framework dat we binnen TeamValue hebben ontwikkeld. Het centrale principe van dat framework is dat AI-autonomie alleen mogelijk is bij volledige, expliciete en betrouwbare context. Een AI-worker moet niet alleen toegang hebben tot informatie, maar ook begrijpen welke informatie leidend is, wie eigenaar is van die informatie, welke afwegingen eerder zijn gemaakt, welke besluitkaders gelden en binnen welk mandaat het systeem mag handelen. Zonder die context kan een AI wel antwoorden genereren, maar geen betrouwbare beslissingen nemen.  

Vanuit dat perspectief wordt GitLost ook veel interessanter. De aanval slaagde niet omdat het model onvoldoende intelligent was. De aanval slaagde omdat een agent onbetrouwbare input kon combineren met toegang tot gevoelige informatie en de bevoegdheid kreeg om zelfstandig te handelen. De kwetsbaarheid zat daarmee niet alleen in de prompt, maar vooral in het ontbreken van voldoende kaders rondom autonomie, toegang en context. Wat uiteindelijk de impact bepaalde was niet het model zelf, maar de combinatie van bevoegdheden, bereik en handelingsruimte die de agent had gekregen.  

AI vraagt om het doorbreken van patronen

Voor architecten is dit eigenlijk een bekend patroon. Toen organisaties massaal naar de cloud verhuisden, ontdekten we dat infrastructuur niet schaalbaar werd zonder Landing Zones. Toen data een strategisch bedrijfsmiddel werd, ontdekten we dat self-service analytics niet schaalbaar werd zonder governance en DataOps. Met AI-workers zien we dezelfde ontwikkeling opnieuw ontstaan. Niet omdat AI uniek is, maar omdat iedere vorm van autonomie nieuwe eisen stelt aan eigenaarschap, governance en beheersing.

Dat is ook precies waarom wij binnen TeamValue spreken over The Golden Path. Niet als verzameling technische voorschriften of architectuurprincipes, maar als een BizDevOps-manier van werken waarin business, development, operations en in toenemende mate ook AI-workers samenwerken binnen dezelfde kaders van verantwoordelijkheid, transparantie en continue verbetering. De uitdaging verschuift daarmee van het implementeren van AI naar het organiseren van autonomie.

Het onboarden en laten samenwerken van digitale collega's

Misschien is dat wel de belangrijkste les van dit moment. De vraag is niet langer welk model we gebruiken of welke prompttechnieken het beste werken. De vraag is hoe we onze digitale collega's onboarden, begeleiden, autoriseren en aansturen. Hoe zorgen we ervoor dat zij beschikken over de juiste context? Hoe maken we besluitvorming expliciet? Hoe organiseren we eigenaarschap? En hoe zorgen we ervoor dat autonomie beheersbaar blijft wanneer deze op steeds grotere schaal wordt toegepast?

De organisaties die AI succesvol weten op te schalen, zullen waarschijnlijk niet de organisaties zijn met de meest geavanceerde modellen. Het zullen de organisaties zijn die het beste begrijpen dat autonomie zonder context leidt tot verkeerde beslissingen, dat autonomie zonder eigenaarschap leidt tot risico's en dat autonomie zonder kaders uiteindelijk leidt tot verlies van controle.

Misschien is dat wel de volgende stap in moderne platformarchitectuur. Eerst leerden we infrastructuur veilig te standaardiseren. Daarna leerden we data veilig te standaardiseren. Nu leren we hoe menselijke en digitale collega's veilig kunnen samenwerken.

Hoe bereidt jouw organisatie zich voor op AI-workers als volwaardige digitale collega's?

AI-inspiratielunch

Op donderdag 8 oktober van 12-14 uur (PEC Zwolle Stadion) organiseren wij een AI-inspiratielunch. Tijdens deze lunch nemen we bestuurders, directieleden en managers die zich bezighouden met AI, innovatie en strategie mee in een visie die dichterbij is dan je misschien denkt. Een toekomst waarin medewerkers beschikken over hun eigen AI-assistent en zelfstandig toegang hebben tot de kennis, processen en informatie die zij nodig hebben. We laten zien welke bouwstenen daarvoor nodig zijn en nemen je stap voor stap mee in de AI-reis: van informatiehuishouding en governance tot de praktische toepassing van AI in het dagelijks werk.

Meld je vast aan door een e-mail te sturen naar [email protected].