Camera’s zijn overal: tijdens het doen van je boodschappen tot het reizen met de trein. Steeds vaker worden traditionele camera’s vervangen door slimme camera’s. Deze camera’s zijn gedreven door kunstmatige intelligentie, handig om verdachte bewegingen te analyseren. Toch brengt de inzet van deze AI-camera’s ook risico’s met zich mee. Is het wel duidelijk wanneer je wordt gefilmd via AI-camera’s? En wat gebeurt er met de analyses die van jou worden gemaakt? Radar zoekt het uit.

De opkomst van AI-camera’s 

Steeds vaker worden AI-camera’s gebruikt voor toezicht of bescherming. Zo vervangt de Nederlandse spoorwegbeheerder ProRail 288 camera’s voor slimme camera’s. Daarover schrijft ze op haar webpagina: “Met slimme camera’s kunnen we sneller reageren op situaties die gevaarlijk zijn. Denk aan mensen die het spoor op lopen, stilgevallen voertuigen bij bewegingen, koperdiefstal of vandalisme.” 

Ook supermarktketens experimenteren met de toepassing van kunstmatige intelligentie. Radar stelde vragen aan een aantal Nederlandse winkeliers. Over het gebruik van AI-camera’s vertelt ALDI: “Wij gebruiken camera’s met kunstmatige intelligentie in één testwinkel in Eindhoven. Daar testen we momenteel een op computervisie gebaseerd zelfbedieningssysteem.”

Ook de Lidl experimenteert met AI-technologie in hun camerasysteem. De supermarkt vertelt: “Deze technologie wordt uitsluitend ingezet om het scanproces bij de zelfscankassa’s te ondersteunen en te optimaliseren. Een concreet voorbeeld hiervan is de automatische productherkenning van groenten en fruit. Er vindt geen identificatie van individuele klanten plaats en we maken geen gebruik van biometrische gegevens zoals gezichtsherkenning.”

Bezorgde geluiden 

Hoewel slimme camera’s veel voordelen kunnen hebben, klinken er ook bezorgde geluiden over deze ontwikkeling. De Autoriteit Persoonsgegevens (AP) vertelt ons: “Mensen worden niet meer alleen gefilmd, maar in real-time continu geanalyseerd om bepaalde informatie over hen te verzamelen. Hierbij worden ook nieuwe persoonsgegevens gegenereerd, zoals het benoemen van iemand als ‘verdacht’.”

De autoriteit vervolgt: “AI-camera’s maken namelijk gebruik van een (risico)score om bepaald gedrag op te sporen. Deze scores zijn vaak ook persoonsgegevens. In dat licht betwijfelt de AP de rechtmatigheid van de inzet van AI-camera’s in supermarkten, waarbij camera’s niet alleen registeren wat mensen doen, maar ook proberen te analyseren hoe zij zich gedragen.” 

“De inzet van AI-camera’s in supermarkten zonder menselijke tussenkomst is in ieder geval verboden. Ook ziet de AP risico’s voor de fundamentele rechten en vrijheden van mensen bij de inzet van AI-camera’s, waaronder autonomie, keuzevrijheid en de mogelijkheid tot vrije persoonlijke ontwikkeling.”

Risico’s voor de openbare ruimte

Ook de digitale burgerrechtenorganisatie Bits of Freedom betwijfelt de veiligheid van AI-technologie bij camerasystemen. “Je kunt op vrijwel elk moment dat je je in de openbare ruimte begeeft gevolgd worden. Dat zorgt ervoor dat we niet echt meer kunnen spreken over een vrije en open samenleving en dat heeft veel impact op de maatschappij en op mensen,” aldus Nadia Benaissa, beleidsadviseur bij Bits of Freedom. 

Ze vervolgt: “Privacy is zo’n belangrijk recht dat het is opgenomen als grondrecht en internationaal mensenrecht. Maar als je continu gevolgd wordt of kan worden, kun je je dus eigenlijk niet vrij bewegen. Je kunt je dan afvragen of het effect daarvan heel anders is op mensen dan wanneer je in een politiestaat woont waarbij op elke hoek van de straat een agent staat om je vragen wie je bent en wat je doet.”

Hoe zit het met de wet- en regelgeving?

Vanwege de zorgen rondom de toepassing van kunstmatige intelligentie is de Europese wet AI-verordening aangenomen. “Het bevat regels voor een verantwoorde ontwikkeling en toepassing van AI door bedrijven, overheidsinstanties en andere organisaties,” beschrijft de AP op hun webpagina. 

Deze versturen we 3-4x per jaar.