Skip to main content

AP verwijt DUO discriminatie bij gebruik algoritme

De manier waarop de Dienst Uitvoering Onderwijs, DUO, een algoritme gebruikte, was discriminerend en daarom onrechtmatig. Dit concludeert de Autoriteit Persoonsgegevens, AP, na onderzoek. DUO wilde controleren of studenten misbruik maakten van de uitwonendenbeurs. DUO gaf studenten een risicoscore door naar onderwijssoort, afstand tussen adressen en leeftijd te kijken. Dat maakt de verwerking van persoonsgegevens door DUO onrechtmatig.

Voor die criteria was geen objectieve rechtvaardiging, menen de juristen van de AP. De privacywaakhond vindt dat dit algoritme studenten met een migratieachtergrond indirect heeft gediscrimineerd. Studenten met een niet Europese migratieachtergrond scoorden hoger op de selectiecriteria. Daardoor werden zij vaker geselecteerd voor een controle of een huisbezoek dan andere studenten. Ook heeft DUO de werking van het algoritme nooit geevalueerd.

Vooral studenten met een Turkse, Marokkaanse of Antilliaanse achtergrond kregen hiermee disproportioneel vaak te maken. Zeker 10.000 studenten met een migratieachtergrond liepen zo tegen de lamp. Maar omdat de controlemethode niet door de beugel kon, heeft de overheid besloten om alle boetes en terugvorderingen aan hen terug te betalen. Hiervoor is 61 miljoen euro gereserveerd. 

Verder lezen bij de bron
IB&P

Nieuwsbrief

Deze versturen we 3-4x per jaar.

Recente blogs

De AVG vraagt meer dan goede bedoelingen: aantoonbaarheid in de praktijk
Zorgvuldig werken met persoonsgegevens is onder de AVG niet genoeg. Je moet ook kunnen laten zien welke keuzes je hebt gemaakt, welke maatregelen daarbij horen en wie waarvoor verantwoordelijk is.
Informatiebeveiliging is geen ICT-feestje
Informatiebeveiliging wordt zichtbaar via MFA, logging, back-ups en pentests. Maar de risico’s die er echt toe doen ontstaan in inkoop, procesinrichting, gegevensdeling en bestuurlijke prioriteiten. Erna Havinga over hoe je daar het goede gesprek over voert.
De nieuwe Archiefwet: waarom informatiebeveiliging hierbij moet aanhaken
Op 1 januari 2027 treedt de nieuwe Archiefwet in werking. Op het eerste gezicht lijkt dat vooral een onderwerp voor informatiebeheer, DIV, de gemeentearchivaris of juridische zaken. Toch raakt de nieuwe wet ook duidelijk aan informatiebeveiliging.

Meer recente berichten

Hoe kun je een onterechte boete van een scanauto aanvechten?
Verder lezen
EU Data Act dwingt cloudsector tot transparantie en open deuren
Verder lezen
‘DPIA-vrij­stel­lin­gen voor kleine ondernemers gaan veel te ver’
Verder lezen
NCSC informeert organisaties over gelekte Fortinet-wachtwoorden
Verder lezen
AP adviseert Twitch-gebruikers: zet instellingen uit voor delen van data met Amazon AI
Verder lezen
Nederland loopt achter op Europa bij AI-cyberdreigingen
Verder lezen
Polarsteps heeft al je foto’s gelekt: dit is wat je kunt doen
Verder lezen
Het NCSC levert voorlopig CSIRT-dienstverlening
Verder lezen
Minister: Politieteam dat informatie over burgers verzamelt past werkwijze aan
Verder lezen
AI-agents beveiligen: de nieuwste miljardenmarkt in cybersecurity
Verder lezen