Skip to main content

AP verwijt DUO discriminatie bij gebruik algoritme

De manier waarop de Dienst Uitvoering Onderwijs, DUO, een algoritme gebruikte, was discriminerend en daarom onrechtmatig. Dit concludeert de Autoriteit Persoonsgegevens, AP, na onderzoek. DUO wilde controleren of studenten misbruik maakten van de uitwonendenbeurs. DUO gaf studenten een risicoscore door naar onderwijssoort, afstand tussen adressen en leeftijd te kijken. Dat maakt de verwerking van persoonsgegevens door DUO onrechtmatig.

Voor die criteria was geen objectieve rechtvaardiging, menen de juristen van de AP. De privacywaakhond vindt dat dit algoritme studenten met een migratieachtergrond indirect heeft gediscrimineerd. Studenten met een niet Europese migratieachtergrond scoorden hoger op de selectiecriteria. Daardoor werden zij vaker geselecteerd voor een controle of een huisbezoek dan andere studenten. Ook heeft DUO de werking van het algoritme nooit geevalueerd.

Vooral studenten met een Turkse, Marokkaanse of Antilliaanse achtergrond kregen hiermee disproportioneel vaak te maken. Zeker 10.000 studenten met een migratieachtergrond liepen zo tegen de lamp. Maar omdat de controlemethode niet door de beugel kon, heeft de overheid besloten om alle boetes en terugvorderingen aan hen terug te betalen. Hiervoor is 61 miljoen euro gereserveerd. 

Verder lezen bij de bron
IB&P

Nieuwsbrief

Deze versturen we 3-4x per jaar.

Recente blogs

De nieuwe Archiefwet: waarom informatiebeveiliging hierbij moet aanhaken
Op 1 januari 2027 treedt de nieuwe Archiefwet in werking. Op het eerste gezicht lijkt dat vooral een onderwerp voor informatiebeheer, DIV, de gemeentearchivaris of juridische zaken. Toch raakt de nieuwe wet ook duidelijk aan informatiebeveiliging.
Waarom BIO2 vooral om eigenaarschap in de lijn vraagt
BIO2 maakt informatiebeveiliging nadrukkelijk onderdeel van goed management: proceseigenaren moeten risico’s kennen, keuzes maken en opvolging organiseren. Daarmee verschuift de focus van losse maatregelen naar aantoonbaar eigenaarschap, samenwerking en risicogestuurde sturing binnen de gemeentelijke praktijk.
Jouw leverancier, jouw risico: Waarom ketenrisico’s geen IT-probleem zijn
Veel gemeenten vertrouwen op leveranciers, maar blijven zelf verantwoordelijk voor de risico’s in de keten. In deze blog lees je waarom ketenrisico’s actief bestuurd moeten worden en hoe je als organisatie grip krijgt op leveranciers, contracten en continuïteit.

Meer recente berichten

Waarom mag je browser zoveel informatie doorgeven zonder jouw expliciete toestemming?
Verder lezen
Terugblik cyberincident
Verder lezen
Staatssecretaris: artikel verzamelwet gegevensbescherming niet in werking
Verder lezen
Ai dwingt ons om risico’s opnieuw te definiëren
Verder lezen
EU legt online surveillance door bedrijven onvoldoende aan banden
Verder lezen
Kleine groep gebruikers houdt toegang tot Mythos
Verder lezen
Autoriteit Persoonsgegevens ontvangt veel klachten over camera’s
Verder lezen
AFM: Financiële organisaties moeten grip krijgen op ICT-risico’s en interne controle
Verder lezen
AP controleert vanaf 1 juli registratie scanauto’s in algoritmeregister
Verder lezen
Digitale soe­ve­rei­ni­teit bestaat niet in zwart-wit
Verder lezen