CEO-fraude met AI-stemmen: zo herken en voorkom je het

Wat is CEO-fraude met AI-stemmen?

CEO-fraude is een vorm van oplichting waarbij iemand zich voordoet als een leidinggevende en een medewerker onder druk zet om snel geld over te maken of vertrouwelijke gegevens te delen. Vroeger gebeurde dat vooral via e-mail, maar met AI-tools wordt het steeds makkelijker om ook een stem na te bootsen. Alles wat je invoert in een AI-tool komt op een server te staan, en bestaande data kan worden gebruikt om nieuwe content te maken. Dat geldt ook voor stemopnames die ergens online staan of via een datalek zijn verkregen.

Het gevaar zit in de combinatie: een bekende stem, een plausibel verhaal en tijdsdruk. Medewerkers handelen dan sneller dan ze denken. De risico's en scenario's doordenken met AI als accountant helpt je om dit soort situaties vooraf te herkennen, maar de basis blijft een menselijke controle.

Waarom AI-tools dit risico vergroten

AI-tools maken zelf teksten en beeld op basis van bestaande data. Ze verzamelen grote hoeveelheden datasets en vullen content aan met wat het meest voorkomt. Voor stemmen werkt dat vergelijkbaar: een AI-model leert van bestaande geluidsopnames en kan daarmee nieuwe zinnen genereren die klinken als de oorspronkelijke spreker. Volgens de KVK is er een risico op onbetrouwbare content en content die is gebaseerd op vooroordelen, maar ook op schending van privacy.

De Autoriteit Persoonsgegevens waarschuwt dat geavanceerde zelflerende algoritmes steeds krachtiger en ingewikkelder worden. Dat betekent dat je niet meer kunt aannemen dat een telefoongesprek echt is omdat je de stem herkent. De regels en beleid vertalen naar de praktijk met AI als accountant is daarom geen overbodige luxe, maar een praktische noodzaak.

Zo herken je een AI-stem

Let op deze signalen bij een verdacht telefoongesprek of voicebericht:

• Ongebruikelijke betaalopdracht: een verzoek dat afwijkt van de normale procedure, bijvoorbeeld naar een nieuw rekeningnummer of een buitenlandse rekening.
• Tijdsdruk: de beller zegt dat het binnen een uur geregeld moet zijn, anders mis je een deal of volgt er een boete.
• Geheimhouding: je mag er met niemand over praten, ook niet met de financiële afdeling.
• Afwijkende spreekstijl: de stem klinkt net iets te vlak, heeft een rare pauze of gebruikt woorden die je leidinggevende nooit gebruikt.
• Vreemde achtergrondgeluiden: een AI-stem heeft vaak geen natuurlijke omgevingsgeluiden of juist een storende ruis.

Twijfel je? Verbreek de verbinding en bel terug op het bekende nummer van je leidinggevende. Dat is de snelste manier om fraude te stoppen. Voor meer achtergrond over hoe AI content genereert, lees je cijfers en data analyseren met AI als accountant.

Zo voorkom je CEO-fraude met AI-stemmen

Voorkomen begint bij afspraken. Leg in een AI-beleid vast welke tools medewerkers mogen gebruiken en welke gegevens ze wel of niet mogen invoeren. De KVK stelt dat een AI-beleid niet verplicht is, maar helpt ondernemers en medewerkers om veilig met AI-tools te werken. Het geeft duidelijke regels en voorkomt risico's. Gaat er toch iets mis, dan biedt het beleid ook een juridisch handvat.

Neem daarnaast deze praktische stappen op in je procedure:

1. Vaste verificatiestap: spreek af dat elke betaalopdracht boven een bepaald bedrag altijd via een tweede kanaal wordt bevestigd, bijvoorbeeld een app of een persoonlijk gesprek.
2. Bel terug op bekend nummer: vertrouw nooit alleen op het nummer dat in beeld verschijnt; dat kan worden gespoofd.
3. Beperk openbare stemdata: wees terughoudend met het online plaatsen van toespraken, podcasts of video's waarin directieleden uitgebreid aan het woord zijn.
4. Train medewerkers: maak CEO-fraude bespreekbaar en oefen met realistische scenario's.

De AI-verordening (Verordening (EU) 2024/1689) bevat risicogebaseerde regels voor AI-ontwikkelaars en -exploitanten. Hoewel deze verordening zich richt op specifieke AI-toepassingen, onderstreept het belang van betrouwbare AI in Europa. Voor jou als mkb'er betekent dit: kies tools waarvan je weet hoe ze met data omgaan. Kijk daarvoor ook naar ChatGPT voor de accountant: waarvoor wel en niet.