◆ Kamervraag· 2023Z11495Beantwoord
Het onderzoek naar mogelijk discriminerende algoritmen door DUO
Peter Kwint21 jun 2023
Bekijk op tweedekamer.nlJouw stem · kamervraag
Jouw stem · kamervraag
Stem· kamervraag
Nog geen stemmen — wees de eerste.
Vragen
V1Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar voren komt? 1 , 2 , 3
V2Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd, namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien u deze gegevens nu niet hebt?
V3Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit algoritme buiten werking te stellen?
V4Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?
V5Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister? Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde register?
V6Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme gevoed? Zit daar ook informatie van het FSV bij?
V7Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid en discriminatoire werking? Zo nee, waarom niet?
V8Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve kijk op de werking van algoritmen door DUO?
Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling? Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?