De Autoriteit Persoonsgegevens is positief over de koers die Nederland vaart met betrekking tot AI en algoritmes. Dat staat in de halfjaarlijkse rapportage van de privacytoezichthouder. Dat  wil niet zeggen dat er geen zorgen zijn. Zo is het zicht op incidenten met AI systemen onvoldoende. Ook zijn er nog geen Europese standaarden voor AI systemen, terwijl de markt daar met smart op wacht.

Beheersingspijlers

De ontwikkelingen in AI gaan snel, hoeveel berichten over AI agents heeft u al zien langskomen? en daarom neemt de uitdaging om algoritmes en AI te beheersen toe. Voorkomen moet worden dat Nederland en de Europese Unie meegaan in een race to the bottom, schrijft de Autoriteit Persoonsgegevens, AP, in de halfjaarlijkse rapportage AI en Algoritmerisico s Nederland, RAN. De bescherming van grondrechten, publieke waarden en veiligheidsbelangen moet als basis dienen voor een sterk eigen Europees AI ecosysteem.
In de rapportage onderscheidt de AP negen beheersingspijlers. Twee ervan liggen goed op koers en dat zijn niet de minste, het is relatief goed gesteld met de kennis van AI in de Nederlandse samenleving en ook de kaders en bevoegdheden voor het toezicht op AI systemen zijn in de EU goed geregeld. Andere pijlers vragen om, verhoogde, aandacht. Twee scoren onvoldoende: standaarden en het zicht op incidenten.

Digitale soevereiniteit

Dat standaarden voor AI systemen op zich laten wachten, maakt het lastig voor bedrijven om te weten hoe ze aan de regels kunnen voldoen. Daar moeten we echt een been bijtrekken, zegt Sven Stevenson, directeur van de Directie Coordinatie Algoritmes van de AP. Duidelijke kaders voor AI kunnen namelijk helpen bij vraagstukken rondom digitale soevereiniteit. Veel AI toepassingen zijn gebaseerd op cloudtechnologie, een onderwerp waar de Nederlandse overheid mee worstelt. Overstappen op een Nederlands of Europese alternatief is makkelijker als er standaarden bestaan voor AI systemen waaraan de Europese partijen voldoen. Dat biedt ze een competitief voordeel en geven zekerheid aan investeerders die willen weten of het bedrijf blijft voortbestaan, licht senior inspecteur Gerald Hopster desgevraagd toe.

Gebrek aan transparantie

Ook is het zicht op incidenten met AI systemen en algoritmes is nog steeds onvoldoende. Een tweetal incidenten in het buitenland laat zien waar het zoal misgaat bij de overheid. Er is een klacht ingediend bij de Franse Raad van State tegen een fraudeprofileringsalgoritme dat zou discrimineren. In het Verenigd Koninkrijk is ophef ontstaan over een soortgelijk algoritme dat bias vertoont en onvoldoende onderbouwing heeft. In beide gevallen gaat het om systemen die onder de radar bleven totdat actiegroepen om opheldering vroegen.

Deze versturen we 3-4x per jaar.