In april heeft de Europese commissie het voorstel voor de nieuwe Europese Artificial Intelligence (AI)-regulering gepubliceerd. De verwachting is dat deze regelgeving binnen drie tot vier jaar tot wet wordt verheven. Anja Meerding, Senior Consultant bij Cmotions, legt uit wat de AI-regulering inhoudt en hoe organisaties zich kunnen voorbereiden op deze wetgeving. 

De nieuwe AI-regulering (de zogeheten ‘(Artificial Intelligence Act’) maakt onderscheid tussen drie soorten AI-systemen: 

Verboden systeem: Wanneer er technieken worden gebruikt waarbij personen onbewust en op een schadelijke manier worden beïnvloed. Of systemen die gebruikmaken van iemands kwetsbaarheid (bijvoorbeeld biometrische identificaties in de publieke ruimte en het sociaal labelen van burgers). Dit vormt een onacceptabel risico. 

Hoog risicosysteem: Deze systemen hebben impact op de fundamentele rechten van het individu. Denk aan beoordeling en selectie in het onderwijs of door werkgevers, toegang tot sociale zekerheid of toepassingen binnen het openbaar bestuur. 

Laag risicosyteem: Hier vallen alle overige AI-toepassingen onder. Bijvoorbeeld manipulatie van mediadata, deep fakes etc.

Voor de hoog risico- en de overige systemen moet je voortaan als organisatie aan bepaalde regelgeving voldoen. Regels voor zowel ontwikkelaars, providers, distribiteurs als gebruikers. 

Vereisten voor AI-systemen

Bij hoog risicosystemen is een keuring (conformiteitsbeoordeling) verplicht voordat deze uitgerold wordt naar de markt. Bij een conformiteitsbeoordeling komen de volgende aspecten aan de orde:

• Risicomanagement
• Beoordeling van kwaliteit van training datasets van het model/algoritme
• Documentatie en verslaglegging van genomen ontwerpbesluiten, keuze van model
• Transparantie en informatie over gebruikte algoritmen naar de gebruikers
• Passend menselijk toezicht
• Robuustheid, accuraatheid en veiligheid van systeem
• Registratie in Europese database
• Distributeurs verantwoordelijk voor voldoen aan Europese AI-regulering

Deze beoordeling moet uitgevoerd worden door een derde partij, provider of de importeur binnen de EU. 

Deze versturen we 3-4x per jaar.