Femke van Rooijen Binnenland 2 jul 2024, 12:50

Leestijd: 2 minuten

Autoriteit Persoonsgegevens kritisch op onstilbare ‘datahonger’ van de overheid: ‘Nog maar het topje van de ijsberg’

De ‘datahonger’ van de overheid lijkt onstilbaar. Volgens de Autoriteit Persoonsgegevens (AP) bleven overheidsdiensten vorig jaar doorgaan met het gebruik van „ondoordachte algoritmes”. Ondanks de toeslagenaffaire, waarbij algoritmes ook een grote rol speelden, is er nog altijd „bitter weinig veranderd”. Dat schrijft de toezichthouder in het jaarverslag.

Eerder concludeerde AP dat de werkwijze van de Belastingdienst bij kinderopvangtoeslag onrechtmatig, discriminerend en in strijd met de privacywetgeving was. Toch heeft de toezichthouder de handen nog meer dan vol aan het toezicht op dit soort algoritmes. In 2023 bleek namelijk dat verschillende overheidsorganisaties gewoon doorgingen met het gebruik ervan. 

Discriminatoir algoritme

Zo gebruikte DUO voor het opsporen van fraude met studiebeurzen een algoritme dat „zonder enige onderbouwing discriminatoir was”, het UWV gebruikte illegaal een algoritme om fraude met WW-uitkeringen op te sporen en er zijn vragen over de inzet van gezichtsherkenning door de politie, aldus de AP in het jaarrapport. 

„Dit is hoogstwaarschijnlijk nog maar het topje van de ijsberg”, zegt voorzitter Aleid Wolfsen. „De datahonger van de overheid lijkt nog nauwelijks ingedamd. Natuurlijk kunnen algoritmes en AI ons ook veel goeds opleveren, zoals efficiëntere werkprocessen, maar als samenleving moeten we heel alert zijn op de risico’s, waaronder discriminatie.”

Woonplaats en opleidingsniveau als risicofactoren

„Overal waar we in prikken, zien we dat het fout zit”, ligt Wolfsen toe in De Volkskrant. „Dat er dus algoritmen worden gebruikt die mensen met bepaalde kenmerken categoriseren als ‘een risico’, zonder dat zij iets concreets hebben misdaan.

Een aantal voorbeelden is al aan het licht gekomen, bijvoorbeeld dat DUO je opleidingsniveau en woonplaats als risicofactoren beschouwt, of dat vier Utrechtse gemeenten het beroep kapper als risicofactor zien.”

Vaker onderzoek door private organisaties

Het valt Wolfsen verder op dat de overheid steeds vaker private organisaties inschakelt om privacyschendingen te onderzoeken. „Terwijl de AP de aangewezen partij is om als onafhankelijke toezichthouder dit onderzoek te doen”, zegt hij. 

„Soms is zo’n privaat onderzoek een vlucht naar voren, soms het gevolg van de beperkte capaciteit van de AP”, stelt de toezichthouder. „Maar het leidt niet zelden tot bijvoorbeeld dubbel werk, verspilling van belastinggeld en verwarring over het juiste toetsingskader. Bovendien heeft het tot gevolg dat private bureaus bij zo’n onderzoek soms toegang krijgen tot zeer gevoelige persoonlijke informatie.”

België reageert op open sollicitatie Joost Klein voor songfestival: ‘Check je dm’

Jouw glaasje wijn heb je mogelijk te danken aan het uitsterven van dino’s

Reacties