Met de razendsnelle ontwikkeling van kunstmatige intelligentie, AI, grijpen steeds meer HR afdelingen naar AI systemen voor recruitment, personeelsbeoordelingen en procesoptimalisatie. Maar niet alles wat technologisch mogelijk is, is ook toegestaan. De AI verordening, AI act, die sinds 1 augustus 2024 geldt, stelt strikte eisen aan het gebruik van AI binnen arbeidsrelaties. Werkgevers moeten zich hier goed op letten, want de gevolgen van kunnen groot zijn als zij de regels overtreden.

Werkgeversvereniging AWVN onderzocht de juridische en praktische implicaties van de AI act en doet drie belangrijke aanbevelingen. Door nu actie te ondernemen, kunnen organisaties AI verantwoord inzetten, risico s beheersen en voldoen aan de wetgeving.

Strengere regels voor AI in HR
De AI act introduceert een risicogebaseerde aanpak voor AI systemen en verdeelt deze in drie categorieen:

• Verboden AI systemen, bijvoorbeeld systemen die burgers manipuleren of onderbewuste beinvloeding toepassen.
• Hoog risico AI systemen, AI die invloed heeft op fundamentele rechten, zoals systemen voor personeelsselectie of prestatiebeoordelingen.
• Laag risico AI systemen, bijvoorbeeld AI gebruik voor eenvoudige administratieve taken.

Belangrijk om te weten voor HR professionals
Alle AI systemen die worden ingezet binnen arbeidsrelaties, vallen automatisch onder de categorie hoog risico. Dit betekent dat er strenge regels gelden voor AI toepassingen zoals:

• AI gestuurde sollicitatie en selectieprocedures
• Automatische beoordeling van prestaties of promoties
• AI gebruik bij beslissingen over ontslag of contractverlenging

Werkgevers moeten aantonen dat hun AI systemen transparant, controleerbaar en niet discriminerend zijn. Wie dit niet goed regelt, loopt het risico op juridische problemen en reputatieschade.

• Over het algemeen geldt hierbij ook de stelregel dat AI systemen nooit zelfstandig beslissingen mogen nemen over mensen. Hierbij moet dus, op zijn minst, altijd betrokkenheid zijn van een ander mens.
• Een ander belangrijk aandachtspunt is dat je met de inzet van kunstmatige intelligentie een hoog risico loopt dat privacygevoelige gegevens onbedoeld weglekken en in de, openbare, cloud van AI programma s terechtkomen.

Drie actiepunten voor het werken met AI in HR
AWVN doet drie concrete aanbevelingen om HR afdelingen en werkgevers klaar te maken voor de AI act.

Deze versturen we 3-4x per jaar.