De departementen rapporteren vooral te maken te hebben met impactvolle algoritmes. Van de 370 algoritmes die de Nederlandse rijksoverheid inzet, classificeren de departementen er slechts 13 als een hoog risico AI-systeem. Dat blijkt uit een inventarisatie van de stichting Algorithm Audit, die het gebruik van algoritmes in de Nederlandse publieke sector monitort.

Registratie van algoritmes

Een motie van Tweede Kamerlid Jesse Six Dijkstra (NSC) riep het kabinet in februari 2025 op om vóór de zomer per departement een brief naar de Kamer te sturen met daarin een plan voor de registratie van impactvolle algoritmen, naast de plannen voor het registreren van hoog risico-AI in het Algoritmeregister. Hij deed dit omdat het Algoritmeregister nog steeds maar beperkt is ingevuld, wat het voor toezichthouders moeilijk maakt om goed zicht te hebben op algoritmes van de overheid.

Algorithm Audit inventariseerde de 14 brieven van de verschillende departementen. Een relatief overzichtelijke klus, want de brieven zijn aan de hand van een template van het ministerie van BZK opgesteld. Het algoritmegebruik wordt standaard uitgesplitst per uitvoeringsinstantie. De stichting controleerde of de beschreven systemen ook in het algoritmeregister staan. Het aantal hoog risico-systemen in gebruik blijkt lager dan verwacht. Van de 13 hoog risico-systemen zijn er 10 van het ministerie van Justitie en Veiligheid (J en V).

Veel impactvolle algoritmes

Voor hoog risico AI-systemen gelden verschillende regels en beperkingen vanuit de AI-verordening. Zo moet er een risicobeheersysteem worden opgetuigd, is het verplicht om prestatievereisten bij te houden en het systeem transparant in te richten. Volgens een schatting van de Europese Commissie zou zo’n 15 procent van de algoritmische systemen in deze categorie moeten vallen.

De departementen komen gezamenlijk op 250 impactvolle algoritmes. Een impactvol algoritme is bijvoorbeeld een beslisregel, zoals de selectieregels van Toeslagen. Een dergelijk algoritme kan grote financiële gevolgen hebben voor inwoners, maar het is geen AI-systeem. Het ministerie van Financiën is grootgebruiker van impactvolle algoritmes. Bij Toeslagen, de Belastingdienst de Douane en het beleidsdepartement worden er in totaal 162 gebruikt, tegen 0 hoog risico-systemen. Impactvolle algoritmes moeten worden beschreven in het Nederlandse algoritmeregister, maar ze vallen niet onder de strenge regels voor hoog risico AI-systemen van de AI-verordening.

Verschillende interpretaties

‘Of iets een hoog risico AI-systeem moet worden genoemd of niet, is een heet hangijzer,’ zegt Jurriaan Parie, directeur van Algorithm Audit. ‘We zien dat de ministeries de definitie verschillend interpreteren. Er zijn aanwijzingen dat daar nog wel eens iets verkeerd wordt geclassificeerd.’

Deze versturen we 3-4x per jaar.