Utrecht,
Terwijl de productiviteitsvoordelen van kunstmatige intelligentie (AI) breed worden omarmd, waarschuwt nieuw onderzoek van KnowBe4 voor een schaduzijde: het aantal beveiligingsincidenten met AI-applicaties is het afgelopen jaar met 43% gestegen. Hiermee is AI, direct na e-mail, de grootste groeifactor in het wereldwijde dreigingslandschap geworden. Ondanks deze cijfers blijft de implementatie van toezicht en detectie bij veel organisaties achter.
Het rapport, getiteld ‘The State of Human Risk 2025: The New Paradigm of Securing People in the AI Era’, baseert zich op data van 700 cybersecurity-leiders en 3.500 medewerkers. De kernconclusie is helder: de snelheid van de technologie overstijgt de snelheid van het veiligheidsbeleid.
AI als nieuwe en onvoorspelbare aanvalsvector
De opkomst van generatieve AI en autonome agents heeft een nieuwe dynamiek in cybercriminaliteit geïntroduceerd. Voor 45% van de cybersecurity-leiders is het bijhouden van deze evoluerende dreigingen de grootste dagelijkse uitdaging. De risico’s zijn divers: van medewerkers die onbewust gevoelige bedrijfsgegevens uploaden naar publieke AI-tools, tot kwaadwillenden die AI gebruiken om hun aanvallen schaalbaarder en overtuigender te maken.
De opmars van deepfakes in de bestuurskamer
Een opvallende bevinding uit het onderzoek is de rol van deepfakes. Maar liefst 32% van de organisaties rapporteerde het afgelopen jaar incidenten waarbij deepfakes werden ingezet. Deze technologie, die stemmen en beelden kan nabootsen, maakt social engineering-aanvallen persoonlijker en daardoor gevaarlijker.
Hoewel 86% van de medewerkers zich zorgen maakt over misleiding via deepfakes, vertaalt dit zich nog niet naar technische barrières. Slechts 35% van de organisaties heeft specifieke technologie in huis om deepfakes te detecteren. Hierdoor ontstaat een kwetsbaarheid waarbij fraude pas laat, of helemaal niet, wordt opgemerkt.
Shadow AI: Het gevaar van de governance-kloof
Een belangrijk knelpunt voor de bedrijfsvoering is de zogeheten ‘governance-kloof’. Terwijl de directie stappen zet om risico’s te beheersen, ervaren medewerkers de bureaucratie als een belemmering. Meer dan de helft (56%) van de medewerkers vindt de toegang tot officiële AI-tools te traag of ontoereikend.
Dit gebrek aan snelheid werkt ‘Shadow AI’ in de hand:
- 17% van de medewerkers gebruikt AI-tools zonder toestemming van de IT-afdeling.
- Dit leidt tot ongecontroleerde verspreiding van data.
- Kritieke bedrijfsprocessen verschuiven naar platformen waar geen adequaat toezicht op is.
Human Risk Management moet de AI-laag omvatten
Volgens Javvad Malik, Lead CISO Advisor bij KnowBe4, is het essentieel dat bedrijven hun menselijk risicomanagement uitbreiden naar de AI-laag. “De productiviteitswinst van AI is te groot om te negeren, maar we moeten voorkomen dat kritieke processen verschuiven naar onzichtbare, hoog-risico omgevingen,” aldus Malik.
De toekomst van werk vraagt om een naadloze samenwerking tussen mens en AI, waarbij het beveiligingsprogramma beide proactief monitort. Voor ondernemers betekent dit dat er niet alleen geïnvesteerd moet worden in tools, maar vooral in duidelijke richtlijnen en real-time begeleiding van medewerkers.