Politie is gestopt met dubieus algoritme dat geweldplegers zou voorspellen
De Nederlandse politie is gestopt met het gebruik van een algoritme dat werd ingezet ter ondersteuning van het politiewerk. Het gaat om het Risico Taxatie Instrument Geweld, RTI G, dat volgens Justitie minister Dilan Yesilgoz Zegerius nooit op zichzelf werd gebruikt en altijd door politiemedewerkers werd geduid. Maar de onderbouwing voor RTI G schiet tekort.
Dit geeft de bewindsvrouw aan in haar antwoorden op Kamervragen van D66 er Hind Dekker-Abdulaziz. Zij heeft vragen ingediend naar aanleiding van de onthulling door FTM dat de politie een Minority Report-algoritme gebruikt, om toekomstige misdaden te kunnen voorspellen. Minority Report is een dystopisch sciencefictionverhaal uit 1956, dat in 2002 bij het brede publiek bekend is geworden door de verfilming van Steven Spielberg.
Etnische achtergrond meegewogen
RTI-G moest kunnen voorspellen wie er in de toekomst geweld gaat plegen, maar er kleven enorme risico s aan dit algoritme, wist FTM te onthullen. Gedurende enkele jaren woog de etnische achtergrond namelijk mee in de voorspellingen. Volgens de politie gebeurt dat nu niet meer, maar door FTM aangehaalde experts stellen dat de statistische kwaliteit en ethische juistheid van het risicomodel nog steeds twijfelachtig zijn.
In haar antwoorden op de kritische Kamervragen stelt de minister van Justitie en Veiligheid dat het doel was om te signaleren en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan. Zij benadrukt dat RTI-G nooit op zichzelf is gebruikt en dat output ervan altijd door politiemedewerkers is geduid, de zogeheten human in the loop.
Verder lezen bij de bron- Voorwaarden burgers en zorgverleners bij delen gegevens - 14 mei 2024
- Tot 10 miljoen boete voor onaangepaste cyberbeveiliging - 14 mei 2024
- Hoe AI de SOC expert te hulp schiet - 13 mei 2024
Lees ons boek
Gemeenten. Bewustzijn. Privacy.
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Voorwaarden burgers en zorgverleners bij delen gegevens | Verder lezen | |
Tot 10 miljoen boete voor onaangepaste cyberbeveiliging | Verder lezen | |
Hoe AI de SOC expert te hulp schiet | Verder lezen | |
Kinderporno opsporen met detectiesoftware op mobiel: experts tegen EU wetsvoorstel | Verder lezen | |
Zoom scherpt privacybeleid voor Europese gebruikers verder aan als resultaat van samenwerking met SURF | Verder lezen | |
Applicatiebeveiliging in Nederland schiet flink tekort | Verder lezen | |
Nederlandse cyberexperts waarschuwen voor aanval gijzelsoftware | Verder lezen | |
Betaaldienst Klarna moet toch hogere boete betalen voor overtreden AVG | Verder lezen | |
Avast krijgt Tsjechische AVG boete van 14 miljoen voor doorverkopen van data | Verder lezen | |
Dit zijn geleerde lessen uit XZ kwetsbaarheid | Verder lezen |