Het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten

Vragen

1. V1Heeft u kennis genomen van de berichten «Algoritmes gemeente Rotterdam kunnen leiden tot «vooringenomen uitkomsten»» 1 en «Harde kritiek op algoritmes voor opsporing van bijstandsfraude?» 2

2. V2Wat is uw reactie op het rapport «Gekleurde technologie» van de Rekenkamer Rotterdam?

3. V3Is het waar dat de gemeente Rotterdam in het kader van het project «Analytics Uitkeringsfraude» gebruik maakt van algoritmes die op eigen houtje zoeken naar kenmerken van fraudeurs? Is er daarmee sprake van de inzet van zelflerende algoritmes?

4. V4Deelt u de conclusie dat dit kan leiden tot vooringenomenheid omdat het model, via een omweg langs andere variabelen zoals laaggeletterdheid, ook etnische achtergrond mee kan nemen en sommige mensen als gevolg daarvan een grotere kans hebben te worden onderworpen aan controles? Zo nee, waarom niet? Zo ja, wat vindt u hiervan?

5. V5Wat onderneemt u, in navolging van de motie-Klaver c.s., om te verzekeren dat zelflerende algoritmes die worden gebruikt door de overheid geen gevoelige variabelen zoals nationaliteit of etniciteit hanteren, direct of indirect? 3

6. V6Deelt u de bevinding van de Rekenkamer Rotterdam dat bijstandsontvangers onmogelijk kunnen weten waarom het algoritme hen aanmerkt voor nadere controle? Zo nee, waarom niet? Zo ja, in hoeverre is dat verenigbaar met de privacywetgeving die stelt dat burgers het recht hebben om inzicht te krijgen in de achtergrond van belangrijke beslissingen? Kunt u het antwoord juridisch onderbouwen met verwijzing naar de relevante wet- en regelgeving?

7. V7Hoe verhoudt het gebruik van algoritmes binnen het project «Analytics Uitkeringsfraude» zich tot de rechterlijke uitspraak van 5 februari 2020 die het gebruik van het fraude-opsporingssysteem SyRI verbiedt?