5 stappen om voorbereid te zijn op de nieuwe Europese AI-regulering

In april heeft de Europese commissie het voorstel voor de nieuwe Europese Artificial Intelligence (AI)-regulering gepubliceerd. De verwachting is dat deze regelgeving binnen drie tot vier jaar tot wet wordt verheven. Anja Meerding, Senior Consultant bij Cmotions, legt uit wat de AI-regulering inhoudt en hoe organisaties zich kunnen voorbereiden op deze wetgeving. 

De nieuwe AI-regulering (de zogeheten ‘(Artificial Intelligence Act’) maakt onderscheid tussen drie soorten AI-systemen: 

Verboden systeem: Wanneer er technieken worden gebruikt waarbij personen onbewust en op een schadelijke manier worden beïnvloed. Of systemen die gebruikmaken van iemands kwetsbaarheid (bijvoorbeeld biometrische identificaties in de publieke ruimte en het sociaal labelen van burgers). Dit vormt een onacceptabel risico. 

Hoog risicosysteem: Deze systemen hebben impact op de fundamentele rechten van het individu. Denk aan beoordeling en selectie in het onderwijs of door werkgevers, toegang tot sociale zekerheid of toepassingen binnen het openbaar bestuur. 

Laag risicosyteem: Hier vallen alle overige AI-toepassingen onder. Bijvoorbeeld manipulatie van mediadata, deep fakes etc.

Voor de hoog risico- en de overige systemen moet je voortaan als organisatie aan bepaalde regelgeving voldoen. Regels voor zowel ontwikkelaars, providers, distribiteurs als gebruikers. 

Vereisten voor AI-systemen

Bij hoog risicosystemen is een keuring (conformiteitsbeoordeling) verplicht voordat deze uitgerold wordt naar de markt. Bij een conformiteitsbeoordeling komen de volgende aspecten aan de orde:

  • Risicomanagement
  • Beoordeling van kwaliteit van training datasets van het model/algoritme
  • Documentatie en verslaglegging van genomen ontwerpbesluiten, keuze van model
  • Transparantie en informatie over gebruikte algoritmen naar de gebruikers
  • Passend menselijk toezicht
  • Robuustheid, accuraatheid en veiligheid van systeem
  • Registratie in Europese database
  • Distributeurs verantwoordelijk voor voldoen aan Europese AI-regulering

Deze beoordeling moet uitgevoerd worden door een derde partij, provider of de importeur binnen de EU. 

Verder lezen bij de bron
IB&P

Lees ons boek

Gemeenten. Bewustzijn. Privacy.

Het handboek voor informatiebewustzijn bij de lokale overheid.

Nieuwsbrief

Deze versturen we 3-4x per jaar.

Recente blogs

Het NIST CyberSecurity Framework als kans?
Binnen informatiebeveiliging praten we vaak over normen, managementsystemen en frameworks. Zo heb je het NIST Cyber Security Framework, maar hoe verhoudt dat zich tot het ISMS en de BIO? Lees het in onze blog.
Waar gaat de Wet digitale overheid over?
Vorig jaar is het wetsvoorstel voor de Wet digitale overheid (Wdo) aangenomen door de Tweede Kamer. Maar waar gaat deze wet nu precies over? Wanneer gaat de wet (pas) van kracht en wat betekent dit voor jouw gemeentelijke organisatie?
Beleid voor informatiebeveiliging in bredere context
Een informatiebeveiligingsbeleid zou niet uit de lucht moeten komen vallen, maar een logisch gevolg van andere beleid en relevante, actuele ontwikkelingen. Juist die zetten we voor je op rij in deze blog. Handig, toch?

Meer recente berichten

Uitfasering uitgifte publiek vertrouwde webcertificaten PKIoverheid
Verder lezen
Ollongren: Gemeenten onvoldoende bewust van AVG
Verder lezen
Gepubliceerd: Werkdocument Audit Wet politiegegevens voor gemeenten
Verder lezen
Cyberaanvallen kunnen leiden tot een grote ramp
Verder lezen
Dit is wat er met je privégegevens kan gebeuren na een datalek
Verder lezen
Joost de Jong, wethouder Eindhoven: Security is kerntaak
Verder lezen
Investeer in cybersecurity, niet eenmalig maar blijvend
Verder lezen
Zorgverzekeraar CZ verandert werkwijze na onderzoek privacy-autoriteit
Verder lezen
Handreiking Wgs in samenwerking met de AP
Verder lezen
Audio blog: De succesfactoren voor een goede implementatie van informatiebeveiliging
Verder lezen