Pim Pauwels Binnenland 26 okt 2021, 15:13

Leestijd: 2 minuten

Amnesty: ‘Kans op herhaling toeslagenaffaire groot’

Een herhaling van een schandaal als de toeslagenaffaire ligt op de loer. Dat is een van de conclusies van Amnesty International, na onderzoek naar het gebruik van algoritmes door de Belastingdienst. In een rapport schrijft de mensenrechtenorganisatie dat de genomen maatregelen om herhaling te voorkomen, niet voldoende zijn.

Steeds meer organisaties maken gebruik van algoritmes. Denk aan streamingdiensten, die zo’n computerinstructie gebruiken om gedrag te voorspellen. Met voorspellende algoritmes bepaalt bijvoorbeeld Netflix voor jou welke series jij leuk vindt en bepaalt Spotify welke muziek jij wil luisteren. De Belastingdienst spoort met dezelfde voorspellende techniek mensen op die mogelijk misbruik maken van toeslagen.

Algoritmes automatiseren de werkprocessen en het kost het minder mankracht om eventuele fraudeurs op te sporen. Maar het gebruik ervan kan ook leiden tot een toeslagenschandaal, als het schort aan toezicht, waarschuwt Amnesty. Metro sprak vorige week Mina, die van dichtbij meemaakte wat de rigoureuze beslissingen rondom de toeslagenaffaire met een gezin doen.

In strijd met de mensenrechten

Bij het controleren van de aanvragen voor kinderopvangtoeslag maakte de Belastingdienst gebruik van een risicomodel, schrijft Amnesty. Het algoritme van de Belastingdienst bestond uit meerdere risicofactoren. Denk aan de sociale klasse of het niet hebben van de Nederlandse nationaliteit. Op basis van deze factoren werden mogelijke fraudeurs gefilterd.

„De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst”, aldus Amnesty. „De algoritmes die werden gebruikt om aanvragen voor de kinderopvangtoeslag te controleren, hebben geleid tot etnisch profileren en dat is in strijd met de mensenrechten.”

‘Nieuw schandaal ligt op de loer’

Nederland is wat het gebruik van algoritmes betreft een van de koplopers in de wereld, aldus Amnesty. Niet alleen daarom is de kans op herhaling hier groot, ook zijn de maatregelen die door de overheid zijn genomen om een tweede schandaal te voorkomen, niet voldoende.

„We hebben de maatregelen geanalyseerd en geconcludeerd dat ze op alle fronten tekort schieten”, schrijft Amnesty. „Zo is het toezicht op het gebruik van algoritmes ondermaats. Bovendien mogen overheidsinstellingen het gebruik en de werking van algoritmes nog steeds geheimhouden.”

Amnesty is niet per se tegen gebruik algoritmes

Amnesty is niet tegen het gebruik van algoritmes. „Maar de bescherming van mensenrechten bij het gebruik ervan moet beter.” Daar schort het nog steeds aan bij de overheid, aldus de mensenrechtenorganisatie. „Nog altijd zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen.”

De organisatie hoopt dat regeringen wereldwijd door de toeslagenaffaire hebben ingezien wat er kan gebeuren als er te weinig toezichtmechanismen voor algoritmes zijn. Deze mechanismen moeten overheden implementeren om mensenrechtenschendingen te voorkomen als algoritmische besluitvormingssystemen worden gebruikt.

Vijf moeders Toeslagenaffaire vertellen op tv hun (vreselijke) verhaal