De Raad van State heeft op donderdag 6 september gewaarschuwd dat burgers het moeilijk kunnen krijgen wanneer de overheid snel digitaliseert. Burgers zouden worden opgezadeld met risico’s bij het gebruik van nieuwe technieken. Richard van Zwol legt dit uit in een interview met NRC.

Wat is er mis met computerbesluiten?

„Besluiten, bijvoorbeeld over kinderbijslag of vergunningen, zijn veelal geautomatiseerd. Besturen is rekening houden met feiten en omstandigheden, met niet te voorspellen situaties. Algoritmen zijn juist bedoeld voor een zwart-witwereld met hele duidelijke kenmerken. Een algoritme kent en begrijpt de werkelijkheid dan ook niet en kan fouten maken.

„Overheidsorganisaties experimenteren daarnaast met ingewikkelde algoritmen: computers laten zoeken naar statistische verbanden in grote hoeveelheden gegevens. Zo zoeken verschillende gemeenten bijvoorbeeld naar fraude. De diversiteit in de gegevens die zij kunnen gebruiken is bijna onuitputtelijk: fiscale gegevens, inburgeringsgegevens, zorgverzekeringsgegevens, onderwijsgegevens, etcetera. De ambtenaar begrijpt niet waarom het systeem naar een burger wijst als potentiele fraudeur, maar handelt er wel naar.”

En wat als die originele gegevens niet kloppen?

„Overheidsorganisaties koppelen veel informatie aan elkaar. Een foutief, of een uit z’n verband gehaald gegeven kan zo worden doorgegeven in de keten en gaat dan een eigen leven leiden. De systemen zijn niet gebouwd op het corrigeren van zulke individuele gevallen. Als er herstelproblemen zijn, wijzen bestuursorganen vaak naar elkaar.”

„Er zijn legio voorbeelden. Uit de Nederlandse rechtspraak kennen we het voorbeeld van een man die aangifte deed van een gestolen rijbewijs. Toch werden 140 auto’s op zijn naam gezet. Hij moest 11.000 euro aan boetes betalen of anderhalf jaar de gevangenis in. Na achttien dagen kwam hij vrij, maar door zijn tijd in de gevangenis verloor hij zijn baan. Na zestien jaar lukt het de Dienst Wegverkeer pas de auto’s van zijn naam te halen.”

Deze versturen we 3-4x per jaar.