Overheden informeren burgers niet, te weinig of juist te laat over het gebruik van risicoprofileringsalgoritmes bij bestuurlijke besluitvormingsprocedures. Dat blijkt uit een onderzoeksproject van Anne Meuwese en Fatma Çapkurt dat zich richt op het juridisch en praktisch verantwoord inzetten van profileringsalgoritmes.

Aanleiding voor het onderzoek zijn situaties zoals bij DUO, waar sprake was van indirecte discriminatie bij de controles op de uitwonendenbeurs voor studenten. Dit onderzoeksproject wil dit soort misstanden helpen voorkomen door overheden beter toe te rusten op het herkennen, toepassen en uitleggen van algoritmisch profilering. Er zijn drie concrete producten ontwikkeld die die overheden helpen om transparanter, zorgvuldiger en juridisch verantwoord om te gaan met algoritmische profilering.

Het eerste product is een wetenschappelijk artikel in het Nederlands Juristenblad, waarin diepgaand wordt geanalyseerd hoe artikel 22 van de Algemene Verordening Gegevensbescherming (AVG) moet worden toegepast. Het artikel bespreekt onder meer het Schufa-arrest van het Europees Hof van Justitie en bekritiseert het huidige overheidsbeleid dat profileringspraktijken onvoldoende reguleert. Over dit artikel zijn inmiddels Kamervragen gesteld aan drie bewindspersonen.

Daarnaast is er een praktische Roadmap ontwikkeld, die op visuele en toegankelijke wijze uitlegt hoe overheidsorganisaties algoritmes kunnen inzetten binnen de kaders van de AVG.

Deze versturen we 3-4x per jaar.