Het kabinet werkt op verzoek van de Tweede Kamer aan een discriminatieprotocol waarin onder meer een noodplan is opgenomen om een algoritme te kunnen stoppen wanneer dit fouten maakt. Dat meldt staatssecretaris Zsolt Szabo in antwoord op Kamervragen van Denk.

Uit onderzoek van de Algemene Rekenkamer werd in oktober duidelijk dat de overheid volop gebruikmaakt van AI, maar de risico s niet altijd vaststelt. De fractie ondervroeg daarop Szabo en wilde onder meer weten welke maatregelen hij gaat nemen.

Veel bestaande regelgeving

De staatssecretaris vermeldt in zijn antwoord geen nieuwe maatregelen, maar verwijst onder meer naar bestaande Europese regelgeving op het gebied van AI, mensenrechtentoetsen, de AVG en het verbod op discriminatie waar toezichthouders op letten. Ook stelt hij dat er diverse tools zijn ontwikkeld om discriminatie door algoritmes te voorkomen. Daarnaast is er een eerste versie van een discriminatieprotocol gelanceerd.

Noodplan smeden

In het protocol, dat is opgenomen in het Algoritmekader, zijn de lessen van en ervaringen met de Toeslagenaffaire en DUO, Dienst Uitvoering Onderwijs, verwerkt. 

Deze versturen we 3-4x per jaar.