In het vizier van het algoritme
Argos
De overheid gebruikt algoritmes om te voorspellen of iemand misschien fraudeert. Dat dit mis kan gaan weten we inmiddels van de Toeslagenaffaire: er bleek sprake van discriminatie van mensen met een tweede nationaliteit en vooral mensen met lage inkomens werden op de korrel genomen.
Maar ondanks dit schandaal is er niet veel bekend over dit soort systemen. De overheid wil burgers meestal niet wijzer maken, omdat ze anders controles zouden kunnen ontlopen door hun gedrag aan te passen.
Maar in Rotterdam is de gemeente er wél open over. Er is inmiddels flinke, democratische discussie over een algoritme om bijstandsfraude op te sporen.
Argos neemt in deze uitzending dit Rotterdamse systeem ook onder de loep, en diende met onderzoekscollectief Lighthouse Reports een Wob-verzoek in. Kenmerken als leeftijd, geslacht, woonwijk, taal en zelfs aanwijzingen voor psychische, medische en financiële problemen blijken een voorspellende waarde te hebben.
Zaterdag 18 december, 14 uur, NPO Radio 1
Abonneer je op de Argos Radio podcast
sprekers
Kenneth Soeleman
kaderlid FNV
Aart van Zevenbergen
gemeenteraadslid in Rotterdam van de SP
Maxim Februari
filosoof en publicist
Cynthia Liem
wetenschapper aan TU Delft. Gespecialiseerd in Kunstmatige Intelligentie
Jacqueline Nieuwstraten
advocaat bij Advokatencollectief Rotterdam. Gespecialiseerd in bijstandszaken
Ludo Hekman
onderzoeksjournalist Lighthouse Reports
Gerwin van Schie
wetenschapper aan de Universiteit Utrecht