De gemeente Amsterdam stopt een proef met de AI toepassing Microsoft Copilot vanwege privacyrisico s. Gemeentekoepel de VNG adviseert haar achterban bewust de keuze te maken of de risico s opwegen tegen de baten.

Copilot kan worden gebruikt voor het maken van notulen tijdens vergaderingen, schrijven van documenten en het doorzoeken van onder andere e mails en chats. De toepassing is interactief en werkt met prompts, waarbij de gebruiker vragen kan stellen en het AI hulpprogramma antwoord geeft.

Niet transparant

Gedurende deze interactie tussen de gebruiker en Copilot worden onder andere persoonlijke gegevens verwerkt. Die gegevensverwerking moet voldoen aan de wet en regelgeving op het gebied van privacy. Op dat gebied schiet de AI software tekort, bijvoorbeeld doordat niet transparant is hoe gegevensverwerking plaatsvindt.

De problemen met de software zijn uitvoerig belicht in een privacytoets, data protection impact assessment, kortweg DPIA, die de inkooporganisatie SLM Rijk onlangs uitvoerde. Voor de gemeente Amsterdam waren deze bevindingen aanleiding om de stekker uit een proef met Copilot te trekken.

Niet veilig en verantwoord

De uitkomsten van de DPIA bevestigen onze zorgen over de inzet van Microsoft Copilot. De geidentificeerde risico s maken dat deze technologie op dit moment niet veilig en juridisch verantwoord binnen onze organisatie kan worden toegepast, laat Amsterdam weten.

Deze versturen we 3-4x per jaar.