Neemt een organisatie een automatisch besluit over iemand? Dan heeft diegene vaak recht op een menselijke blik. Dat betekent: dat een medewerker van de organisatie meekijkt bij het besluit. Uit onderzoek van de Autoriteit Persoonsgegevens (AP) blijkt echter dat mensen dit niet altijd weten.

Zo’n automatisch besluit kan bijvoorbeeld het besluit zijn over de aanvraag voor een lening. Of het automatisch beoordelen van een cv tijdens een sollicitatieprocedure. Automatische besluiten worden vaak genomen met een algoritme waarin persoonsgegevens zijn verwerkt.

Onderzoek AP

De AP deed onderzoek naar hoe mensen kijken naar algoritmes en persoonsgegevens. Van de 1.480 mensen die meededen, wist maar liefst 38 procent niet dat ze recht hebben op een menselijke blik bij besluiten die door een algoritme worden genomen. 

Uit de gesprekken in de focusgroepen kwam verder naar voren dat mensen vinden dat menselijke controle noodzakelijk is bij belangrijke besluiten die genomen worden met algoritmes. Het is volgens hen daarbij van belang dat organisaties eenvoudige, eerlijke en toegankelijke uitleg geven aan mensen over wat er met hun persoonsgegevens gebeurt.

Verschillende acties

Het onderzoek was voor de AP aanleiding om de voorlichting over geautomatiseerde besluitvorming uit te breiden. Zodat organisaties de rechten van mensen beter gaan beschermen. 

Betekenisvolle menselijke tussenkomst

Zo publiceerde de AP voor organisaties de handvatten voor betekenisvolle menselijke tussenkomst. Hierin staan praktische tips om betere processen in te richten, zodat menselijke tussenkomst bij automatische besluiten ook echt betekenisvol is. 

Recht op uitleg bij automatisch besluit

Om ervoor te zorgen dat organisaties eenvoudige, eerlijke en toegankelijke uitleg geven aan mensen over wat er met hun persoonsgegevens gebeurt, werkt de AP ook aan handvatten voor het recht op uitleg bij geautomatiseerde besluitvorming. 

Deze versturen we 3-4x per jaar.