Een systeemkaart of modelkaart is een technisch document waarin een AI-aanbieder uitlegt hoe een model is gebouwd, welke data erin zit en waar de beperkingen zitten. Je leest eruit af waarvoor de tool wel en niet geschikt is, welke risico's eraan kleven en of je hem veilig op de werkvloer kunt inzetten. Het is geen garantie, maar wel het beste startpunt om een AI-tool te beoordelen voordat je hem gebruikt.
Een systeemkaart of modelkaart is een document dat AI-aanbieders publiceren om inzicht te geven in hoe hun model werkt. Denk aan informatie over de trainingsdata, de architectuur, de prestaties op testen en de bekende beperkingen. Het is vergelijkbaar met een productblad, maar dan voor een AI-systeem. De AI-verordening (Verordening (EU) 2024/1689) stelt risicogebaseerde regels aan AI-ontwikkelaars en -exploitanten. Voor hoog-risicosystemen, zoals AI bij werving en selectie, gelden extra transparantieverplichtingen. Een systeemkaart helpt je als gebruiker om te controleren of een tool aan die eisen voldoet en waar je op moet letten.
Op een systeemkaart vind je doorgaans: het doel van het model, de gebruikte trainingsdata, de prestaties op benchmarks, de beperkingen en de aanbevolen toepassingen. Let vooral op de paragraaf over beperkingen en risico's. Daar staat bijvoorbeeld of het model hallucinaties kan produceren, vooroordelen kan bevatten of ongeschikt is voor bepaalde taken. De KVK waarschuwt dat AI-tools teksten en beelden maken op basis van bestaande data, wat risico's geeft op auteursrechtschending en onbetrouwbare output. Een systeemkaart maakt die risico's expliciet. Lees ook de paragraaf over datagebruik: wordt jouw invoer gebruikt om het model te trainen? Dat is cruciaal voor je AVG-afweging.
AI-tools zijn krachtig, maar brengen reële risico's mee. De Autoriteit Persoonsgegevens benadrukt dat geavanceerde zelflerende algoritmes steeds krachtiger en ingewikkelder worden. Zonder inzicht in het model kun je niet beoordelen of je persoonsgegevens veilig zijn of de output betrouwbaar is. Een systeemkaart geeft je die basis. Combineer dit met een eigen AI-beleid, zoals beschreven in regels en beleid vertalen naar de praktijk met AI. Zo leg je vast welke tools medewerkers mogen gebruiken en welke gegevens nooit in een AI-tool mogen. De KVK stelt dat een AI-beleid niet verplicht is, maar wel helpt om veilig te werken en juridische risico's te beperken.
Kijk bij het lezen van een systeemkaart eerst naar drie dingen. Ten eerste: waar worden data verwerkt? Alles wat je invoert, slaat de AI-tool op een server op, mogelijk in een land zonder Nederlandse privacybescherming. Ten tweede: wordt jouw invoer gebruikt om het model te trainen? Zo ja, dan is de tool minder geschikt voor vertrouwelijke bedrijfsinformatie. Ten derde: welke beperkingen meldt de aanbieder zelf? Een model dat aangeeft onbetrouwbaar te zijn voor medische of juridische toepassingen, moet je daar ook niet voor gebruiken. Deze checks helpen je om een bewuste keuze te maken, zoals ook geldt bij cijfers en data analyseren met AI.
Maak van het lezen van een systeemkaart een vast onderdeel van je toolkeuze. Voordat je een AI-tool op de werkvloer toestaat, vraag je de systeemkaart op en loop je de drie punten na. Leg de uitkomst vast in je AI-beleid. Twijfel je over de risico's? Gebruik de tool dan eerst voor laag-risicotaken, zoals e-mails schrijven met AI, en bouw ervaring op. De AI-verordening verplicht aanbieders van hoog-risicosystemen tot transparantie, maar als gebruiker blijf je verantwoordelijk voor een zorgvuldige inzet. Een systeemkaart is daarbij je belangrijkste hulpmiddel.
Feiten en prijzen gecontroleerd op de vermelde bronnen. AI verandert snel; kom je iets tegen dat niet meer klopt? Laat het ons weten.
AI-transparantieplicht: wanneer moet je vertellen dat content door AI is gemaakt?
Wanneer ben je verplicht te melden dat tekst of beeld door AI is gemaakt? Praktische uitleg over de AI-verordening, AVG en risico's voor mkb'ers.
ChatGPT als winkelassistent: wat mkb'ers kunnen leren van Carrefour
Carrefour België laat klanten via ChatGPT boodschappen doen. Wat betekent dit voor mkb'ers? Praktische lessen over AI-assistenten, AVG en AI-beleid.
Studiedata en cursusmateriaal met AI maken: waar liggen de grenzen?
Mag je studiedata en cursusmateriaal met AI maken? Lees over auteursrecht, privacy, de AI-verordening en praktische grenzen voor jouw bedrijf.