De Nederlandse politie is gestopt met het gebruik van een algoritme dat werd ingezet ter ondersteuning van het politiewerk. Het gaat om het Risico Taxatie Instrument Geweld, RTI G, dat volgens Justitie minister Dilan Yesilgoz Zegerius nooit op zichzelf werd gebruikt en altijd door politiemedewerkers werd geduid. Maar de onderbouwing voor RTI G schiet tekort.

Dit geeft de bewindsvrouw aan in haar antwoorden op Kamervragen van D66 er Hind Dekker-Abdulaziz. Zij heeft vragen ingediend naar aanleiding van de onthulling door FTM dat de politie een Minority Report-algoritme gebruikt, om toekomstige misdaden te kunnen voorspellen. Minority Report is een dystopisch sciencefictionverhaal uit 1956, dat in 2002 bij het brede publiek bekend is geworden door de verfilming van Steven Spielberg.

Etnische achtergrond meegewogen

RTI-G moest kunnen voorspellen wie er in de toekomst geweld gaat plegen, maar er kleven enorme risico s aan dit algoritme, wist FTM te onthullen. Gedurende enkele jaren woog de etnische achtergrond namelijk mee in de voorspellingen. Volgens de politie gebeurt dat nu niet meer, maar door FTM aangehaalde experts stellen dat de statistische kwaliteit en ethische juistheid van het risicomodel nog steeds twijfelachtig zijn.

In haar antwoorden op de kritische Kamervragen stelt de minister van Justitie en Veiligheid dat het doel was om te signaleren en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan. Zij benadrukt dat RTI-G nooit op zichzelf is gebruikt en dat output ervan altijd door politiemedewerkers is geduid, de zogeheten human in the loop.

Deze versturen we 3-4x per jaar.