Algoritmes of AI beslissingen laten nemen over mensen mag niet zomaar. Volgens de privacywet moet een mens de uitkomst van de computer goed controleren. Hoe zorg je als organisatie voor deze betekenisvolle menselijke tussenkomst? De Autoriteit Persoonsgegevens zoekt naar input om organisaties meer handvatten te bieden om dit in te richten.

Algoritmische besluitvorming

Organisaties gebruiken regelmatig algoritmes en AI om beoordelingen te doen. Dat heet algoritmische besluitvorming. Een gemeente of belastingsamenwerking gebruikt bijvoorbeeld een taxatiemodel om de WOZ waarde van uw koophuis te bepalen. De kenmerken van uw woning worden niet handmatig vergeleken met de kenmerken van andere woningen en evenmin heeft een ambtenaar met een rekenmachine de verkooprijzen uit de buurt geanalyseerd, dat doet het computersysteem.

Als organisaties algoritmische besluitvorming toepassen, moeten ze aan regels voldoen. In de algemene verordening gegevensbescherming, AVG, staat onder meer dat mensen recht hebben op menselijke tussenkomst bij algoritmische besluiten die over hen gaan en gevolgen voor hen hebben. In het geval van het toekennen van een WOZ waarde betekent dat dat een taxateur de uitkomst van het taxatiemodel controleert voordat er een brief naar u wordt verstuurd met de definitieve WOZ waarde. Dat is een relatief rechttoe rechtaan vorm van menselijke tussenkomst, ervan uitgaand dat de taxateur een gestandaardiseerde methode gebruikt om de uitkomst te controleren.

Deze versturen we 3-4x per jaar.