AP: kritische rol van rechter nodig bij algoritmegebruik
Rechters en bezwaarcommissies moeten scherp zijn op besluiten van de overheid waarbij algoritmes een rol hebben gespeeld. En de overheid moet uit zichzelf transparant zijn over het gebruik van algoritmes. Daarvoor pleitte Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens, AP, tijdens een bijeenkomst in de Week van de Rechtsstaat over kunstmatige intelligentie, AI, in de rechtspraak.
Wolfsen ging in op de uitdagingen die algoritmes en AI met zich meebrengen voor de rechtelijke controle van overheidsbesluiten. Waarom werden bijvoorbeeld de problemen met algoritmes om het risico op fraude in te schatten, zoals bij de Belastingdienst en DUO, zo laat ontdekt? Wolfsen: Het had veel leed kunnen voorkomen als deze organisaties transparanter waren geweest over deze algoritmes. En als rechters actiever en nieuwsgieriger waren geweest.
Een eerste stap naar meer transparantie is dat de overheid het uit zichzelf laat weten wanneer algoritmes een rol hebben gespeeld bij een genomen besluit of in de aanloop daarnaartoe. En hierbij heldere uitleg geeft. Dit kan bijvoorbeeld in de toelichtingsbrief bij het besluit. De rechter moet overheidsbesluiten kunnen controleren op bijvoorbeeld discriminatie, ook bij algoritmes. Daarom is actieve transparantie over het gebruik van algoritmes belangrijk. Zo kunnen burgers, advocaten en rechters daar alert op zijn, aldus Wolfsen.
Verder kijken dan het geschil
Maar transparantie alleen is niet voldoende. Het is ook nodig dat rechters actief toetsen op de impact van algoritmes op overheidsbesluiten. De rechter zou dus altijd voorbij het geschil moeten kijken waarvoor iemand naar de rechter is gestapt.
Wolfsen legt uit: De overheid gebruikt algoritmes vaak om efficienter te zijn door algoritmes op grote schaal in te zetten. Hierdoor kunnen de mogelijke risico s, zoals onjuiste uitkomsten en discriminatie, impact hebben op een grote groep mensen. Dit zagen we bij de Toeslagenaffaire.
Verder lezen bij de bron- Ministerie tegen cyberaanvallen en spionage opgezet in Denemarken - 6 september 2024
- Privacyorganisaties bezorgd over nasleep AI videobewaking bij Olympische Spelen - 6 september 2024
- AP: meer waarborgen nodig om doxing tegen te gaan - 5 september 2024
Lees ons boek
Gemeenten. Bewustzijn. Privacy.
Nieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Ministerie tegen cyberaanvallen en spionage opgezet in Denemarken | Verder lezen | |
Privacyorganisaties bezorgd over nasleep AI videobewaking bij Olympische Spelen | Verder lezen | |
AP: meer waarborgen nodig om doxing tegen te gaan | Verder lezen | |
Hoe bereid je je voor op mogelijke digitale ontwrichting? | Verder lezen | |
Wen er maar aan, zei de minister | Verder lezen | |
Gemeente gooit persoonsgegevens van 23.000 Bosschenaren op straat | Verder lezen | |
Hebben eerdere sancties die EU oplegde aan techbedrijven al enig resultaat gehad? En andere vragen beantwoord | Verder lezen | |
Veel zorginstellingen hebben last van DDoS ransomware aanvallen | Verder lezen | |
Vijf acties waarmee organisaties het risico op een cyberincident verkleinen | Verder lezen | |
Kabinet en justitie happig op gebruik commerciele dna databanken als opsporingsmethode: Roept vragen op over privacy | Verder lezen |