AP: kritische rol van rechter nodig bij algoritmegebruik
Rechters en bezwaarcommissies moeten scherp zijn op besluiten van de overheid waarbij algoritmes een rol hebben gespeeld. En de overheid moet uit zichzelf transparant zijn over het gebruik van algoritmes. Daarvoor pleitte Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens, AP, tijdens een bijeenkomst in de Week van de Rechtsstaat over kunstmatige intelligentie, AI, in de rechtspraak.
Wolfsen ging in op de uitdagingen die algoritmes en AI met zich meebrengen voor de rechtelijke controle van overheidsbesluiten. Waarom werden bijvoorbeeld de problemen met algoritmes om het risico op fraude in te schatten, zoals bij de Belastingdienst en DUO, zo laat ontdekt? Wolfsen: Het had veel leed kunnen voorkomen als deze organisaties transparanter waren geweest over deze algoritmes. En als rechters actiever en nieuwsgieriger waren geweest.
Een eerste stap naar meer transparantie is dat de overheid het uit zichzelf laat weten wanneer algoritmes een rol hebben gespeeld bij een genomen besluit of in de aanloop daarnaartoe. En hierbij heldere uitleg geeft. Dit kan bijvoorbeeld in de toelichtingsbrief bij het besluit. De rechter moet overheidsbesluiten kunnen controleren op bijvoorbeeld discriminatie, ook bij algoritmes. Daarom is actieve transparantie over het gebruik van algoritmes belangrijk. Zo kunnen burgers, advocaten en rechters daar alert op zijn, aldus Wolfsen.
Verder kijken dan het geschil
Maar transparantie alleen is niet voldoende. Het is ook nodig dat rechters actief toetsen op de impact van algoritmes op overheidsbesluiten. De rechter zou dus altijd voorbij het geschil moeten kijken waarvoor iemand naar de rechter is gestapt.
Wolfsen legt uit: De overheid gebruikt algoritmes vaak om efficienter te zijn door algoritmes op grote schaal in te zetten. Hierdoor kunnen de mogelijke risico s, zoals onjuiste uitkomsten en discriminatie, impact hebben op een grote groep mensen. Dit zagen we bij de Toeslagenaffaire.
Verder lezen bij de bronNieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Nieuwe Nederlandse provider neemt telefoongesprekken op met AI | Verder lezen | |
Inloggen is het nieuwe hacken: Cybersecurity in een tijdperk van versnelling | Verder lezen | |
Techbedrijven deelden namen Nederlandse ambtenaren met VS: ‘Ontzettend zorgelijk’ | Verder lezen | |
Ciso’s en NCSC slaan alarm: patchgolf en cyberchaos dreigen deze zomer | Verder lezen | |
Mag een werkgever je WhatsApp lezen? Dit zijn de regels | Verder lezen | |
Aanname wordt feit: cyberaanvallen veranderen door AI | Verder lezen | |
TU Delft beëindigt veiligheidsafspraak met politie | Verder lezen | |
De technologische trends die 2026 bepalen: waar bedrijven op moeten letten. | Verder lezen | |
Stichting The Privacy Collective daagt techbedrijf AppLovin voor de rechter om illegaal volgen van miljoenen Nederlanders | Verder lezen | |
Regering investeert in cybersecurity en maritieme dronecapaciteit | Verder lezen |