De Nederlandse overheid gebruikt volop AI systemen, blijkt uit een recent onderzoek van de Algemene Rekenkamer. De Nationale Politie en het UWV zijn de grootverbruikers. Ondanks het grote gebruik van AI, zijn de risico s van dit gebruik in veel gevallen nog niet bekend.

De Algemene Rekenkamer constateert dat de Nederlandse overheid op dit moment in totaal 433 AI systemen gebruikt of test. Van deze AI systemen zijn er nu 120 daadwerkelijk in gebruik. De meeste door de overheid gebruikte systemen, 167, zijn nog experimenten.

In totaal gebruiken 55 van de 69 onderzochte overheidsorganisaties AI systemen. Hiervan zetten er veertig AI daadwerkelijk in voor hun processen. De overige vijftien overheidsorganen experimenteren met AI en veertien gebruiken helemaal geen AI. Grootverbruikers zijn de Politie met 23 AI systemen en het UWV met tien. Gemiddeld gebruiken overheidsorganisaties niet meer dan drie AI systemen in totaal.

AI blijkt vooral te worden ingezet voor het verbeteren van eigen interne processen die nauwelijks impact hebben op burgers en bedrijven en hiermee geld en tijd te besparen. Bijvoorbeeld het doorzoeken en verwerken van grote hoeveelheden data om de processen te optimaliseren of het omzetten van gesprekken naar tekst of het anonimiseren of sneller doorzoeken van documenten.

Gebrek aan risico inschatting

Wel constateert de Algemene Rekenkamer dat de risico s die aan het AI gebruik door de overheid zijn verbonden, nog niet voldoende bij de instanties bekend zijn. Voor de helft van de door de overheidsinstanties gebruikte AI systemen is geen risicoafweging gemaakt. Het blijkt ook dat voor een derde van de gebruikte AI systemen die het label van hoog risico kregen, ook geen risicoafweging is gemaakt.

Deze versturen we 3-4x per jaar.