AP: kritische rol van rechter nodig bij algoritmegebruik
Rechters en bezwaarcommissies moeten scherp zijn op besluiten van de overheid waarbij algoritmes een rol hebben gespeeld. En de overheid moet uit zichzelf transparant zijn over het gebruik van algoritmes. Daarvoor pleitte Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens, AP, tijdens een bijeenkomst in de Week van de Rechtsstaat over kunstmatige intelligentie, AI, in de rechtspraak.
Wolfsen ging in op de uitdagingen die algoritmes en AI met zich meebrengen voor de rechtelijke controle van overheidsbesluiten. Waarom werden bijvoorbeeld de problemen met algoritmes om het risico op fraude in te schatten, zoals bij de Belastingdienst en DUO, zo laat ontdekt? Wolfsen: Het had veel leed kunnen voorkomen als deze organisaties transparanter waren geweest over deze algoritmes. En als rechters actiever en nieuwsgieriger waren geweest.
Een eerste stap naar meer transparantie is dat de overheid het uit zichzelf laat weten wanneer algoritmes een rol hebben gespeeld bij een genomen besluit of in de aanloop daarnaartoe. En hierbij heldere uitleg geeft. Dit kan bijvoorbeeld in de toelichtingsbrief bij het besluit. De rechter moet overheidsbesluiten kunnen controleren op bijvoorbeeld discriminatie, ook bij algoritmes. Daarom is actieve transparantie over het gebruik van algoritmes belangrijk. Zo kunnen burgers, advocaten en rechters daar alert op zijn, aldus Wolfsen.
Verder kijken dan het geschil
Maar transparantie alleen is niet voldoende. Het is ook nodig dat rechters actief toetsen op de impact van algoritmes op overheidsbesluiten. De rechter zou dus altijd voorbij het geschil moeten kijken waarvoor iemand naar de rechter is gestapt.
Wolfsen legt uit: De overheid gebruikt algoritmes vaak om efficienter te zijn door algoritmes op grote schaal in te zetten. Hierdoor kunnen de mogelijke risico s, zoals onjuiste uitkomsten en discriminatie, impact hebben op een grote groep mensen. Dit zagen we bij de Toeslagenaffaire.
Verder lezen bij de bron- Defensie heeft te weinig inzicht in zwaktes ICT infrastructuur - 16 september 2024
- AP: kabinet moet wet aanpassen om journalisten bij Kadaster database te laten - 16 september 2024
- Minister Heinen in gesprek met BKR over verwijderen registraties - 13 september 2024
Lees ons boek
Gemeenten. Bewustzijn. Privacy.
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Defensie heeft te weinig inzicht in zwaktes ICT infrastructuur | Verder lezen | |
AP: kabinet moet wet aanpassen om journalisten bij Kadaster database te laten | Verder lezen | |
Minister Heinen in gesprek met BKR over verwijderen registraties | Verder lezen | |
Ict aanbieders onvoldoende voorbereid op cyberramp | Verder lezen | |
Security op de productievloer, gemakkelijker gezegd dan gedaan | Verder lezen | |
Verzamelwet gegevensverwerking VWS | Verder lezen | |
Gebruik biometrie bij automatische grenscontrole | Verder lezen | |
Nederland onderzoekt Chinese autosoftware, vanwege nationale veiligheid | Verder lezen | |
Australie geeft waarschuwing voor malware die wachtwoorden steelt | Verder lezen | |
Onderzoekers KU Leuven leggen datalekken populaire datingapps bloot | Verder lezen |