De Autoriteit Persoonsgegevens, AP, maakt zich zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten generatieve artificiele intelligentie, AI. Speciale aandacht gaat uit naar apps voor jonge kinderen waarin deze vorm van AI wordt toegepast.

De AP onderneemt daarom de komende tijd verschillende acties. Zo heeft de AP een techbedrijf om duidelijkheid gevraagd over de werking van de chatbot die werd geintegreerd in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers.

De ontwikkelingen rond de inzet van AI gaan razendsnel. Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.

De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn.

Deze versturen we 3-4x per jaar.