Autonome AI-systemen worden door bedrijven veel sneller ingevoerd dan hun toezicht daarop kan bijhouden. Dat blijkt uit een onderzoek van EY onder 202 Amerikaanse AI-beslissers, bestuursleden, C-level managers en vicepresidenten bij beursgenoteerde bedrijven met minstens 1 miljard dollar omzet. Van hen zegt 91 procent dat hun organisatie al agentic AI gebruikt, in pilots of volledig operationeel.
Bijna alle ondervraagden (98 procent) hebben een formeel AI-governancebeleid, maar de praktijk wijkt daar geregeld van af. 47 procent gaf toe dat het governanceproces eerder is overgeslagen bij een haastige uitrol. Ook ontbreekt vaak de kennis: 69 procent noemt gebrek aan expertise om de controles door te ontwikkelen, 63 procent om ze te implementeren en 63 procent om ze te ontwerpen. Van de organisaties die agentic AI gebruiken, draait 85 procent autonome systemen zonder toezicht in real time, en kan 26 procent niet detecteren of er ongeautoriseerde AI-agents actief zijn binnen het netwerk.
De risico’s blijven niet theoretisch. In het afgelopen jaar kreeg:
- 89 procent te maken met een AI-gerelateerd risico
- 52 procent met een cybersecurity-incident door AI
- 46 procent met schaduw-AI binnen de organisatie
- 36 procent met een AI-incident met merkbare negatieve gevolgen
EY-technologiedirecteur Richard Jackson verwoordt het probleem kernachtig: organisaties passen de governanceregels van gisteren toe op de AI-interacties van vandaag. Collega John McLain voegt toe dat het grootste risico van agentic AI is dat het menselijk toezicht niet is meegegroeid met de autonomie van de systemen.
Voor Nederlandse organisaties die AI-agents overwegen is de les simpel: een beleidsdocument alleen is geen controle. Wie autonome systemen inzet, moet ook kunnen zien wat ze doen, wie ze aanstuurt en wanneer ze buiten hun mandaat treden, zeker onder tijdsdruk.
Bron: Dark Reading
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.