De Autoriteit Persoonsgegevens (AP) presenteert vandaag de visie van de AP op generatieve artificiële intelligentie (AI). Daarin schetst de toezichthouder hoe generatieve AI veilig, verantwoord en in lijn met grondrechten kan worden ingezet. De AP kijkt vooruit en ziet mogelijkheden, maar waarschuwt tegelijk voor reële maatschappelijke risico’s.

De nood is hoog. De impact van generatieve AI wordt steeds duidelijker, mede door de wildgroei aan applicaties die in hoog tempo op de markt komen. Veel toepassingen komen bovendien van Amerikaanse techbedrijven. Daardoor groeit de Europese afhankelijkheid en staat onze digitale autonomie onder druk. Dat gebeurt in een context van grote geopolitieke verschuivingen waarbij economische integratie steeds vaker wordt ingezet als drukmiddel.

Het gebruik van generatieve AI neemt ondertussen snel toe. Volgens het Centraal Bureau voor de Statistiek (CBS) gebruikt 23 procent van de Nederlanders AI-programma’s zoals ChatGPT. Bij jongeren ligt dat percentage aanzienlijk hoger. Dat maakt de impact van generatieve AI direct voelbaar in het dagelijks leven.

Stevige vangrails nodig

Tegelijk nemen de capaciteiten van generatieve AI steeds verder toe. Denk aan apps die mensen ongewenst op beeld uitkleden of aan chatbots die hulp zeggen te bieden bij psychische problemen. Daarbij gebruiken mensen chatbots ook steeds vaker als enige informatiebron. De AP vindt deze ontwikkeling zorgelijk, omdat organisaties generatieve AI vaak te snel inzetten, zonder vooraf voldoende aandacht te besteden aan de gevolgen voor mensen en samenleving.

‘Dit brengt nieuwe en complexe uitdagingen op het gebied van beheersing met zich mee’, zegt Aleid Wolfsen, voorzitter van de AP. ‘Generatieve AI biedt enorme kansen, maar we moeten de technologie zorgvuldig inzetten. Innovatie is welkom, maar wel voorzien van stevige vangrails.’  Volgens de AP is het daarbij essentieel dat AI-modellen in lijn met de Algemene verordening gegevensbescherming (AVG) en AI-verordening rechtmatig zijn getraind en rechtmatig worden ingezet.

Onwenselijke toekomstbeelden

In de visie beschrijft de AP drie onwenselijke toekomstbeelden. In een Wilde Westen-scenario groeit generatieve AI zonder duidelijke regels en in een scenario van gemiste kansen valt Europa stil doordat complexe en onduidelijke wet- en regelgeving leidt tot onzekerheid. In een bunker-scenario belemmert overmatige voorzichtigheid innovatie.

Generatieve AI is nog bestuurbaar. ‘Maar alleen als we nu kiezen voor waarden als uitgangspunt, en niet voor snelheid als norm’, zegt Wolfsen. 

Deze versturen we 3-4x per jaar.