De Autoriteit Persoonsgegevens, AP, consulteert de visie van de AP op verantwoorde ontwikkeling en inzet van generatieve AI. Deze visie geeft een beeld van de technologie, gaat in op trends, schetst toekomstscenario’s en bevat een juridische duiding. De AP werkt aan de visie vanuit de rol als toezichthouder op de bescherming van persoonsgegevens en als coordinerend AI- en algoritmetoezichthouder. De AP nodigt organisaties uit om feedback te geven op deze voorlopige visie en bijpassende voorlopige AVG-randvoorwaarden voor generatieve AI.

Generatieve artificiële intelligentie (AI) is niet meer weg te denken uit de samenleving. Het potentieel om bij te dragen aan economische en maatschappelijke welvaart is groot. Generatieve AI is mogelijk doordat modellen worden getraind met een duizelingwekkende hoeveelheid informatie. Daarnaast worden deze systemen extra gevoed door mensen die tijdens het gebruik ervan persoonsgegevens invoeren. Veel modellen voor generatieve AI hebben daardoor vermoedelijk een onrechtmatige ontstaansgeschiedenis.

Verantwoord vooruit

Zowel de maatschappelijke beloften als risico’s van generatieve AI zijn groot. Dit brengt dilemma’s mee voor regulering en voor toezicht. Grondrechten en publieke waarden moeten daarom leidend zijn. Als samenleving kunnen we actief sturen door voorwaarden te scheppen voor verantwoorde generatieve AI. Innovatiemogelijkheden en effectieve regulering kunnen op deze manier samengaan.

Dit toekomstbeeld staat centraal in Verantwoord vooruit: AP-visie op generatieve AI. De AP legt deze visie de komende periode ter consultatie voor. De visie is een richtinggevend perspectief voor wat er nodig is om als samenleving generatieve AI verantwoord te benutten.

AP-voorzitter Aleid Wolfsen: “De mogelijkheden van generatieve AI blijven verrassen. De technologie kan veel goeds brengen, maar net zo goed zorgen baren. Bovendien gaat generatieve AI hand in hand met massale gegevensopslag. Het is essentieel dat de bescherming van persoonsgegevens ook bij de inzet van generatieve AI op orde is. En dat we als samenleving grip hebben op de technologie, om grondrechten en publieke waarden te beschermen. Gegeven de snelle technologische ontwikkelingen is achteraf corrigeren niet voldoende. Met deze visie laat de AP zien dat de ontwikkeling en inzet van generatieve AI veilig en verantwoord mogelijk is.”

Toekomstscenario: waarden aan het werk

De AP verkent in deze visie 4 toekomstscenario’s voor 2030. Hierbij kijkt de AP naar de mogelijke ontwikkeling van technologie en Europese regulering. De AP streeft naar het scenario ‘Waarden aan het werk’. Om daar te komen benoemt de AP een aantal noodzakelijke uitgangspunten op maatschappelijk niveau. Zoals meer Europese digitale autonomie, maatschappelijke weerbaarheid, democratische sturing, een goed functionerende markt en het vermogen om door de AI-keten heen te corrigeren.

Aanvullend ziet de AP voor dit scenario uitgangspunten op het niveau van individuele AI-modellen en -systemen. Zoals wanneer ontwikkelaars en gebruikers transparant zijn, risico’s in kaart brengen en afwegen, heldere doelen formuleren en controle hebben over de omgeving waar het AI-systeem draait en de data die verwerkt worden. Door deze maatregelen te treffen kunnen organisaties voldoen aan relevante wetgeving, waaronder de AVG, de AI-verordening en eventuele sectorale wetgeving.

Deze versturen we 3-4x per jaar.