AP verwijt DUO discriminatie bij gebruik algoritme
De manier waarop de Dienst Uitvoering Onderwijs, DUO, een algoritme gebruikte, was discriminerend en daarom onrechtmatig. Dit concludeert de Autoriteit Persoonsgegevens, AP, na onderzoek. DUO wilde controleren of studenten misbruik maakten van de uitwonendenbeurs. DUO gaf studenten een risicoscore door naar onderwijssoort, afstand tussen adressen en leeftijd te kijken. Dat maakt de verwerking van persoonsgegevens door DUO onrechtmatig.
Voor die criteria was geen objectieve rechtvaardiging, menen de juristen van de AP. De privacywaakhond vindt dat dit algoritme studenten met een migratieachtergrond indirect heeft gediscrimineerd. Studenten met een niet Europese migratieachtergrond scoorden hoger op de selectiecriteria. Daardoor werden zij vaker geselecteerd voor een controle of een huisbezoek dan andere studenten. Ook heeft DUO de werking van het algoritme nooit geevalueerd.
Vooral studenten met een Turkse, Marokkaanse of Antilliaanse achtergrond kregen hiermee disproportioneel vaak te maken. Zeker 10.000 studenten met een migratieachtergrond liepen zo tegen de lamp. Maar omdat de controlemethode niet door de beugel kon, heeft de overheid besloten om alle boetes en terugvorderingen aan hen terug te betalen. Hiervoor is 61 miljoen euro gereserveerd.
Verder lezen bij de bron- Applicatiebeveiliging kraakt onder de snelheid van AI-ontwikkelingen - 6 juli 2026
- Evaluatie datalek gemeente Epe - 3 juli 2026
- Waarom informatiebeveiliging nooit af is - 3 juli 2026
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Applicatiebeveiliging kraakt onder de snelheid van AI-ontwikkelingen | Verder lezen | |
Evaluatie datalek gemeente Epe | Verder lezen | |
Waarom informatiebeveiliging nooit af is | Verder lezen | |
De Cloud Act en digitale soevereiniteit ontrafelt | Verder lezen | |
AI zet decennia cybersecurity op zijn kop | Verder lezen | |
Privacyklachten stijgen explosief – en de overheid staat in de top 3 | Verder lezen | |
Maatregelen nodig voor automatisering Van Brienenoordbrug | Verder lezen | |
AP stelt procesbeschrijving voor verscherpt toezicht vast | Verder lezen | |
Digitale weerbaarheid: waarom een strategische aanpak noodzakelijk is | Verder lezen | |
Privacyschending bij de verkoop van ‘verloren pakketten’: Bol start onderzoek | Verder lezen |