Rekenkamer vindt privacyproblemen bij overheidsalgoritmes
Als onderdeel van het Verantwoordingsonderzoek 2024 onderzocht de Algemene Rekenkamer drie risicomodellen van de overheid, computermodellen die speuren naar fraude en andere afwijkingen. Bij algoritmes van de Belastingdienst en Dienst Toeslagen stuitte de Rekenkamer op privacyproblemen. Het onderzochte algoritme van het UWV is grotendeels oké bevonden.
Grote toegevoegde waarde
Wordt er eens proactief een algoritme ingezet om mensen op te sporen die onder de wielen van de overheid dreigen te worden vermorzeld, is het weer niet goed. Het computermodel van Dienst Toeslagen zoekt mensen die veel kinderopvangtoeslag moeten terugbetalen ten opzichte van hun inkomen en die dus waarschijnlijk hulp kunnen gebruiken. Maar het systeem voldoet niet aan privacywetgeving. Daarvoor waarschuwt de Algemene Rekenkamer in zijn jaarlijkse verantwoordingsonderzoek.
Het algoritme heeft volgens de Rekenkamer wel grote toegevoegde waarde. Tot nu toe zijn bijna 8000 ouders benaderd voor persoonlijke begeleiding. Daarvan komt 80 tot 90 procent voort uit het model. Zonder het algoritme zou Dienst Toeslagen de extra persoonlijke begeleiding niet kunnen aanbieden, schrijft de Rekenkamer. Dan zouden de financiële problemen van deze gezinnen wellicht nog groter kunnen worden.
Kwetsbare groep
De keerzijde is dat het algoritme niet voldoet aan de privacywet AVG. Het gaat om een kwetsbare groep ouders wiens gegevens niet goed worden beschermd.
Verder lezen bij de bronNieuwsbrief
Deze versturen we 3-4x per jaar.
Recente blogs
Meer recente berichten
Autoriteit Persoonsgegevens ontvangt veel klachten over camera’s | Verder lezen | |
AFM: Financiële organisaties moeten grip krijgen op ICT-risico’s en interne controle | Verder lezen | |
AP controleert vanaf 1 juli registratie scanauto’s in algoritmeregister | Verder lezen | |
Digitale soevereiniteit bestaat niet in zwart-wit | Verder lezen | |
Inlichtingendiensten slaan alarm over privacy: je nieuwe auto luistert actief mee | Verder lezen | |
Amerikaanse overheid moet update voor kritiek Dell-lek binnen 3 dagen uitrollen | Verder lezen | |
Waarschuwing voor personeel dat met AI aan de slag gaat: ‘Kans op datalek groot’ | Verder lezen | |
Intelligentie als wapen | Verder lezen | |
Veilige softwarekeuzes bij het toepassen van AI in de zorg | Verder lezen | |
Cyberdreiging, AI en tekort aan softwarekennis zetten organisaties onder druk | Verder lezen |