AI en sollicitatiebrieven beoordelen: risico's van geautomatiseerde afwijzing

Waarom AI-beoordeling van sollicitatiebrieven risicovol is

AI-tools kunnen sollicitatiebrieven razendsnel samenvatten, vergelijken en rangschikken. Dat scheelt tijd, maar de Europese Commissie waarschuwt dat het vaak niet mogelijk is om erachter te komen waarom een AI-systeem een beslissing of voorspelling heeft genomen. Bij een afwijzing betekent dat: je kunt niet uitleggen waarom iemand is afgewezen. De AI-verordening (Verordening (EU) 2024/1689) pakt dit aan met risicogebaseerde regels voor AI-ontwikkelaars en -exploitanten. AI voor werving en selectie valt in de categorie hoog-risico, wat extra verplichtingen oplevert voor zowel de aanbieder als de gebruiker van zo'n systeem.

Daarnaast speelt de AVG. De Autoriteit Persoonsgegevens houdt toezicht op algoritmes en AI, en benadrukt dat geavanceerde zelflerende algoritmes steeds krachtiger en ingewikkelder worden. Een sollicitatiebrief bevat persoonsgegevens: naam, werkervaring, opleiding, soms zelfs gezondheidsinformatie. Alles wat je in een AI-tool invoert, komt op een server te staan. Die server staat mogelijk in een land waar de Nederlandse privacywetgeving niet geldt, aldus de KVK. Dat maakt het beoordelen van sollicitatiebrieven met AI een privacygevoelige handeling.

Wat de AI-verordening van jou eist bij werving

De AI-verordening is het eerste alomvattende rechtskader voor AI wereldwijd. Het doel is betrouwbare AI in Europa bevorderen. Voor AI-systemen die sollicitatiebrieven beoordelen, betekent dit dat je als werkgever niet zomaar elke tool kunt gebruiken. De verordening stelt risicogebaseerde eisen aan specifieke toepassingen van AI. Werving en selectie is expliciet aangemerkt als hoog-risico, omdat een verkeerde beoordeling directe gevolgen heeft voor iemands bestaanszekerheid en gelijke kansen.

Voor jou als mkb'er betekent dit: je moet kunnen aantonen dat het AI-systeem dat je gebruikt voldoet aan de eisen voor hoog-risico AI. Denk aan transparantie over hoe het systeem werkt, menselijk toezicht op beslissingen, en documentatie van de werking. De Europese Commissie benadrukt dat de regels bedoeld zijn om veiligheid, grondrechten en mensgerichte AI te garanderen. Een AI-tool die automatisch kandidaten afwijst zonder dat een mens ernaar kijkt, past daar niet in.

Lees ook hoe je regels en beleid vertaalt naar de praktijk met AI voor een praktische aanpak.

AVG: wat mag je invoeren in een AI-tool?

Een sollicitatiebrief is een document vol persoonsgegevens. De KVK waarschuwt: als je persoonsgegevens of gevoelige bedrijfsinformatie invoert in een AI-tool, is deze informatie mogelijk niet beschermd. Alles wat je invoert, slaat de AI-tool op een server. Die server staat mogelijk in een land waar de Nederlandse privacywetgeving niet geldt. Dat is een direct AVG-risico.

De Autoriteit Persoonsgegevens houdt actief toezicht op algoritmes en AI. Geautomatiseerde besluitvorming over sollicitanten valt onder de AVG-regels voor profilering en geautomatiseerde beslissingen. Sollicitanten hebben recht op uitleg als een algoritme hen afwijst. Als je niet kunt uitleggen hoe de AI-tool tot een afwijzing kwam, overtreed je mogelijk de AVG. Leg daarom vooraf vast welke gegevens je wel en niet in een AI-tool mag invoeren. Een sollicitatiebrief zonder naam en contactgegevens anonimiseren is een minimale eerste stap, maar biedt geen volledige bescherming.

Meer over veilig omgaan met AI-tools lees je in ChatGPT voor de aannemer: waarvoor wel en niet — de principes gelden ook voor HR-toepassingen.

Praktische aanpak: AI als hulpmiddel, niet als eindbeslisser

De veiligste route is AI gebruiken als ondersteuning, niet als vervanging van menselijke beoordeling. Laat een AI-tool bijvoorbeeld sollicitatiebrieven samenvatten, kerncompetenties eruit filteren of een eerste rangschikking maken op basis van harde criteria zoals opleidingsniveau of werkervaring. Maar laat de uiteindelijke afwijzing of uitnodiging altijd door een mens gebeuren.

Leg dit vast in een AI-beleid. De KVK stelt dat een AI-beleid niet verplicht is, maar helpt ondernemers en medewerkers om veilig met AI-tools te werken. Het geeft duidelijke regels en voorkomt risico's. Gaat er toch iets mis door verkeerd of onveilig gebruik van AI, dan biedt een AI-beleid ook een juridisch handvat. In je AI-beleid neem je op: welke AI-tools zijn toegestaan voor werving, welke gegevens mogen worden ingevoerd, wie verantwoordelijk is voor de eindbeslissing, en hoe je sollicitanten informeert over AI-gebruik.

Voor het schrijven van vacatureteksten kun je AI wél vrijer inzetten. Bekijk vacatureteksten schrijven met AI voor concrete stappen en prompts.

Wat als het fout gaat: datalek of onterechte afwijzing

Als je per ongeluk persoonsgegevens van sollicitanten in een AI-tool zet die niet aan de AVG voldoet, kan dat een datalek zijn. De KVK benadrukt dat alles wat je invoert op een server wordt opgeslagen, soms buiten de EU. Bij een datalek met persoonsgegevens moet je dit melden bij de Autoriteit Persoonsgegevens als er een risico is voor de betrokkenen. Dat geldt ook voor sollicitatiegegevens.

Daarnaast loop je het risico op discriminatieklachten. AI-tools maken teksten op basis van bestaande data, en die data kan vooroordelen bevatten. De KVK noemt expliciet het risico op content die is gebaseerd op vooroordelen. Een AI-tool die getraind is op historische aannamepatronen kan onbewust discrimineren op leeftijd, geslacht of afkomst. Als je de afwijzing niet kunt uitleggen omdat de AI-tool een black box is, sta je juridisch zwak. Zorg daarom altijd voor een menselijke check en documenteer je afwegingsproces.

Voor het doordenken van risico's en scenario's kun je AI wél goed inzetten: risico's en scenario's doordenken met AI helpt je vooraf zwakke plekken te identificeren.