Skip to main content

AP verwijt DUO discriminatie bij gebruik algoritme

De manier waarop de Dienst Uitvoering Onderwijs, DUO, een algoritme gebruikte, was discriminerend en daarom onrechtmatig. Dit concludeert de Autoriteit Persoonsgegevens, AP, na onderzoek. DUO wilde controleren of studenten misbruik maakten van de uitwonendenbeurs. DUO gaf studenten een risicoscore door naar onderwijssoort, afstand tussen adressen en leeftijd te kijken. Dat maakt de verwerking van persoonsgegevens door DUO onrechtmatig.

Voor die criteria was geen objectieve rechtvaardiging, menen de juristen van de AP. De privacywaakhond vindt dat dit algoritme studenten met een migratieachtergrond indirect heeft gediscrimineerd. Studenten met een niet Europese migratieachtergrond scoorden hoger op de selectiecriteria. Daardoor werden zij vaker geselecteerd voor een controle of een huisbezoek dan andere studenten. Ook heeft DUO de werking van het algoritme nooit geevalueerd.

Vooral studenten met een Turkse, Marokkaanse of Antilliaanse achtergrond kregen hiermee disproportioneel vaak te maken. Zeker 10.000 studenten met een migratieachtergrond liepen zo tegen de lamp. Maar omdat de controlemethode niet door de beugel kon, heeft de overheid besloten om alle boetes en terugvorderingen aan hen terug te betalen. Hiervoor is 61 miljoen euro gereserveerd. 

Verder lezen bij de bron
IB&P

Lees ons boek

Gemeenten. Bewustzijn. Privacy.

Het handboek voor informatiebewustzijn bij de lokale overheid.

Nieuwsbrief

Deze versturen we 3-4x per jaar.

Recente blogs

De 5 meest gemaakte fouten in verwerkersovereenkomsten
: Een van de belangrijkste eisen uit de AVG is het afsluiten van een verwerkersovereenkomst wanneer je persoonsgegevens door een externe partij laat verwerken. In de praktijk gaat dat echter nog vaak mis. Verwerkersovereenkomsten zijn te vaag, onvolledig of sluiten niet aan op de werkelijkheid. In deze blog lees je de vijf meest voorkomende fouten én hoe je ze voorkomt.
Veiligheid begint met inzicht: zo geef je kwetsbaarhedenbeheer vorm
Het is belangrijk om kwetsbaarheden niet ad hoc, maar structureel aan te pakken. Niet alleen binnen je eigen ICT-omgeving, maar ook daarbuiten. In deze blog leggen we uit wat kwetsbaarhedenbeheer is, waarom het zo belangrijk is en hoe je het goed organiseert.
Hoe interne audits leiden tot verbetering
Informatiebeveiliging en privacy zijn essentieel, vooral voor gemeenten die werken met gevoelige gegevens en kritieke processen. Risicobeheer, naleving van wetgeving en continue verbetering zijn hierbij onmisbaar. Naast IT- en security-experts speelt ook de interne auditafdeling een cruciale rol. Maar hoe zorg je dat audits meer zijn dan een vinklijstje en echt bijdragen aan verbeteringen? In deze blog delen we de belangrijkste stappen, uitdagingen en praktische tips.

Meer recente berichten

Toezichthouder pakt websites aan die illegaal cookies plaatsen
Verder lezen
Impact van de Meldplicht in NIS2 op Cybersecurity
Verder lezen
Minister: politie gaat te lang bewaarde gegevens over burgers vernietigen
Verder lezen
De omgang met geheime informatie bij politie en NCTV
Verder lezen
Groot datalek bij Fontys: honderden gegevens en mails makkelijk toegankelijk
Verder lezen
Zwakke configuratie in Salesforce lokt cyberaanvallen uit
Verder lezen
Waarom serieuze investeringen in AP nodig blijven
Verder lezen
Nieuwe spionagewet: wat betekent dit voor bedrijven en HR?
Verder lezen
Privacy International eist openheid Britse overheid over iCloud-backdoor
Verder lezen
Zo ziet het industriële dreigingslandschap eruit
Verder lezen