AP verwijt DUO discriminatie bij gebruik algoritme
De manier waarop de Dienst Uitvoering Onderwijs, DUO, een algoritme gebruikte, was discriminerend en daarom onrechtmatig. Dit concludeert de Autoriteit Persoonsgegevens, AP, na onderzoek. DUO wilde controleren of studenten misbruik maakten van de uitwonendenbeurs. DUO gaf studenten een risicoscore door naar onderwijssoort, afstand tussen adressen en leeftijd te kijken. Dat maakt de verwerking van persoonsgegevens door DUO onrechtmatig.
Voor die criteria was geen objectieve rechtvaardiging, menen de juristen van de AP. De privacywaakhond vindt dat dit algoritme studenten met een migratieachtergrond indirect heeft gediscrimineerd. Studenten met een niet Europese migratieachtergrond scoorden hoger op de selectiecriteria. Daardoor werden zij vaker geselecteerd voor een controle of een huisbezoek dan andere studenten. Ook heeft DUO de werking van het algoritme nooit geevalueerd.
Vooral studenten met een Turkse, Marokkaanse of Antilliaanse achtergrond kregen hiermee disproportioneel vaak te maken. Zeker 10.000 studenten met een migratieachtergrond liepen zo tegen de lamp. Maar omdat de controlemethode niet door de beugel kon, heeft de overheid besloten om alle boetes en terugvorderingen aan hen terug te betalen. Hiervoor is 61 miljoen euro gereserveerd.
Verder lezen bij de bron- 3 ddos aanvallen die ons land in hun greep hebben deze week - 24 januari 2025
- Boete voor Coolblue voor het ongevraagd gebruiken van cookies - 24 januari 2025
- 7 dingen die je nooit moet vragen of delen met chatbots - 23 januari 2025
Lees ons boek
Gemeenten. Bewustzijn. Privacy.
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
3 ddos aanvallen die ons land in hun greep hebben deze week | Verder lezen | |
Boete voor Coolblue voor het ongevraagd gebruiken van cookies | Verder lezen | |
7 dingen die je nooit moet vragen of delen met chatbots | Verder lezen | |
Cybercriminaliteit in 2025, de belangrijkste beveiligingsuitdagingen | Verder lezen | |
Cyberaanval? Onderwijsbestuurders moeten straks op cursus | Verder lezen | |
AP: mensen weinig bewust van gegevens die auto s allemaal verzamelen | Verder lezen | |
Privacy waakhond AP kraakt wet voor grensoverschrijdende uitwisseling van zorgdata | Verder lezen | |
Belangstelling voor cyberveiligheid groeit bij mkb | Verder lezen | |
CCV beheert cybersecurity evaluatietool Cyra | Verder lezen | |
Waarschuwing: Privacy in gevaar bij AI software Microsoft 365 | Verder lezen |