De snelle opkomst van AI en algoritmes brengt nieuwe juridische risico’s met zich mee. Volgens de Autoriteit Persoonsgegevens blijven transparantie, toezicht en governance rond AI achter bij de technologische ontwikkeling.

De inzet van artificiële intelligentie (AI) en algoritmes in Nederland groeit snel, maar de beheersing van de bijbehorende risico’s blijft achter. Dat stelt de Autoriteit Persoonsgegevens (AP) in de nieuwste Rapportage AI & Algoritmes Nederland. Volgens de toezichthouder passen organisaties steeds vaker AI toe, terwijl toezicht, transparantie en verantwoorde implementatie nog onvoldoende zijn ontwikkeld. Daardoor kan de bescherming van fundamentele waarden en grondrechten onder druk komen te staan.

Voor juristen en advocaten is vooral relevant dat het gebruik van AI steeds vaker samenhangt met juridische verplichtingen rond privacy, discriminatie en transparantie. Organisaties moeten bij de inzet van AI-systemen rekening houden met bestaande regelgeving, zoals de Algemene verordening gegevensbescherming (AVG), en met de Europese AI-verordening.

De implementatie van die AI-verordening verloopt volgens de AP echter traag. Europese lidstaten lopen achter bij het aanwijzen van toezichthouders, het organiseren van toezicht en het ontwikkelen van standaarden die organisaties nodig hebben om aan de regels te voldoen. Die onzekerheid kan leiden tot economische nadelen en juridische risico’s voor organisaties die AI-systemen ontwikkelen of inzetten.

AI kan systeemrisico’s versterken

De rapportage besteedt daarnaast aandacht aan zogenoemde systeemrisico’s: risico’s die niet alleen individuele burgers raken, maar maatschappelijke systemen als geheel kunnen verstoren. Naarmate AI steeds sterker verweven raakt met sectoren zoals financiën, digitale infrastructuur en informatievoorziening, groeit ook de kans dat fouten of verstoringen zich door meerdere systemen tegelijk verspreiden.

Deze versturen we 3-4x per jaar.