Het bericht ‘Algoritme voorspelt wie fraude pleegt bij bijstandsuitkering’

Vragen

1. V1Bent u bekend met het bericht «Algoritme voorspelt wie fraude pleegt bij bijstandsuitkering»? 1

2. V2Bij hoeveel en welke gemeenten wordt dergelijke software gebruikt om bijstandsfraude op te sporen?

3. V3Klopt het dat deze gemeenten de software inkopen bij bedrijven? Kunt u aangeven bij welke bedrijven?

4. V4Welke historische data wordt gebruikt voor de analyse van mogelijke bijstandsfraude? Kunnen inwoners de gebruikte data inzien en eventueel, bijvoorbeeld bij fouten, wijzigen? Hebben de ingeschakelde bedrijven toegang tot deze data?

5. V5Ziet u ook het risico dat het gebruik van algoritmes discriminerend kan zijn voor bepaalde groepen mensen als de werking van de algoritmes niet transparant en controleerbaar is of gebaseerd is op data die door selectieve handhaving tot stand is gekomen? Bent u bekend met voorbeelden hiervan, zoals het gebruik van discriminerende recidiverisico software in de Verenigde Staten?

6. V6Is de werking van de gebruikte algoritmes transparant en controleerbaar? Wordt de werking van de gebruikte algoritmes door onafhankelijke derden gecontroleerd?

7. V7Deelt u de mening dat de technologie die overheden gebruiken onze normen en waarden en onze wetten moeten eerbiedigen en niet, wellicht onbedoeld, discriminerend mogen zijn? Deelt u derhalve de mening dat door overheden gebruikte algoritmes transparant en controleerbaar moeten zijn om te voorkomen dat algoritmes discriminerend werken?

8. V8Op welke wijze vindt terugkoppeling van de resultaten uit de data-analyses en de daaruit volgende onderzoeken naar bijstandsfraude plaats, en hoe leidt dit tot aanpassingen van de gebruikte algoritmes? Hoe wordt een vicieuze cirkel voorkomen, bijvoorbeeld als het rekenmodel versterkt wordt in foutieve initiële aannames op basis van gekleurde historische data door nieuwe data uit de handhavingspraktijk?