Het landelijke algoritmeregister bevat nu 179 algoritmes. Daaronder bevinden zich bijdragen van 14 gemeenten, 2 provincies en 2 waterschappen, plus een aantal departementen en andere overheidsorganisaties. Dat kan beter, vinden ze ook bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, BZK. Het evenement Expeditie Algoritmes op maandag 9 oktober stond helemaal in het teken van het enthousiasmeren van ambtenaren.

Bezoek Implementation Island

De expeditie is opgebouwd in vier onderdelen: orientatie, implementatie (Bezoek Implementation Island), publicatie op locatie en trails van de toekomst. Reisleider is Elja Daae, Coordinator AI en algoritmen bij BZK. Ze begint met een excuus aan alle deelnemers die noodgedwongen achterin de zaal van de Observant in Amersfoort staan. Aan belangstelling geen gebrek: de expeditie is flink overboekt.  

Meer samen optrekken

Johnas van Lammeren, wethouder in Amersfoort, vertelt dat er in zijn gemeenteraad diverse moties zijn geweest over het gebruik van algoritmes. Daarom ontwikkelde Amersfoort met de Universiteit Utrecht een ethisch afwegingskader. De wethouder vraagt zich wel af of iedere gemeente afzonderlijk de ict-leveranciers moet bevragen over de algoritmes die ze gebruiken. Hij roept de landelijke overheid op om hierin een rol te spelen.

Alexandra van Huffelen, demissionair staatssecretaris digitalisering, laat weten dat BZK hier inderdaad mee bezig is. Het samen optrekken beperkt zich wat haar betreft niet tot het uitzoeken van algoritmes, ook in het kiezen en aanschaffen van systemen zou veel meer overleg en samenwerking moeten zijn.

Toeslagenschandaal: vooringenomen besluitvorming

Om het belang van verantwoord algoritmegebruik te benadrukken, refereert Van Huffelen aan het Toeslagenschandaal, waarin algoritmes de besluitvorming vooringenomen (biased) beinvloeden. Het risicomodel concentreerde zich op mensen uit bepaalde delen van steden, met een bepaalde gezinssamenstelling, waardoor een alleenstaande moeder uit Rotterdam-Zuid wel in het vizier van de overheid kwam, en een getrouwde vader uit Blaricum niet. De uitkomsten van een algoritme zijn niet waardenvrij, waarschuwt Van Huffelen. En menselijke beoordeling achteraf blijkt vaak niet te werken.

Implementatiekader op komst

Ze komt het publiek een trap onder de kont geven om toch vooral dat algoritmeregister in te vullen en volledigheid te betrachten. In aansluiting op de komende EU-regelgeving wordt de registratie van hoog-risicoalgoritmes, besluitvorming met hoge impact op inwoners, verplicht. Vooruitlopend op de AI Act en het verdrag van de Raad van Europa is de Autoriteit Persoonsgegevens benoemd tot toezichthouder van algoritmes. Haar ministerie werkt ondertussen aan een landelijke implementatiekader voor algoritmes, dat overheden helpt met besluiten: wil ik voor dit probleem een algoritme inzetten?

Deze versturen we 3-4x per jaar.