Wat is er gebeurd?
Controle Alt Delete schrijft regelmatig over institutioneel racisme in de strafrechtketen. Een belangrijke schakel in dit systeem is de reclassering. De reclassering begeleidt gevangenen bij re-integratie, maar geeft ook adviezen aan rechters over het risico dat verdachten of veroordeelden opnieuw in de fout gaan. Daarbij maakt de reclassering gebruik van vier verschillende algoritmes. Recent heeft de Inspectie voor Justitie en Veiligheid deze algoritmes onderzocht. Het resultaat: het gebruik van één van die algoritmes, genaamd OXREC, kan mogelijk leiden tot discriminatie. Naar aanleiding hiervan heeft de reclassering OXREC tijdelijk gepauzeerd. De reclassering is niet van plan om te onderzoeken of er sprake was (of is) van discriminatie.
Wat blijkt uit het onderzoek?
De Inspectie J&V onderzocht de algoritmes van de reclassering en concludeerde dat de vier algoritmes niet voldoen aan de AVG en niet zijn opgenomen in het algoritmeregister. Het algoritme OXREC springt er extra uit omdat het gebruik maakt van een ‘buurtscore.’ Variabelen in de buurtscore zijn de postcode, percentage mensen met een uitkering, het percentage mensen dat werkeloos is, het percentage mensen dat “laag-opgeleid” is, het niveau van criminaliteit in de buurt en het gemiddelde inkomen.
Migratieachtergrond is geen variabele, maar postcode, geslacht, leeftijd, opleidingsniveau en inkomen zijn indicatoren waarmee etnisch geprofileerd kan worden. Dat werd overigens al in 2020 vastgesteld in een artikel hierover. In de praktijk werden medewerkers van de reclassering in sommige gevallen aangemoedigd om de uitkomsten van OXREC direct over te nemen. Dat geeft het algoritme veel invloed op beslissingen. Kortom: een levensgroot risicop op (indirecte) discriminatie van mensen met een migratieachtergrond. Maar of er daadwerkelijk sprake was van discriminatie, is nog niet onderzocht.
Wat doet de reclassering nu?
De reclassering heeft het gebruik van OXREC gepauzeerd. Op vragen van Controle Alt Delete gaf de woordvoerder aan dat de organisatie gaat onderzoeken of het gebruik van OXREC juridisch kan worden gerechtvaardigd. Een onderzoek naar feitelijke discriminatie in het verleden, bijvoorbeeld met de recent ontwikkelde selectiviteitsscan van het CPB, gaat niet gebeuren. De reclassering benadrukte dat het rapport van de inspectie wel aanleiding biedt tot nadere reflectie en onderzoek. In elk geval zal de reclassering juridische toetsen uitvoeren om te onderzoeken of OXREC in de toekomst rechtmatig gebruikt kan worden.
Reactie Controle Alt Delete
Institutioneel racisme in de strafrechtketen is een clusterfuck. We weten op basis van recent onderzoek dat mensen met een migratieachtergrond disproportioneel vaak in beeld komen bij de politie, als verdachte aangemerkt worden, vervolgd worden door het Openbaar Ministerie en gestraft worden door rechters. De adviezen van de reclassering spelen hierin een belangrijke rol.
Om institutioneel racisme in de strafrechtketen terug te dringen, is het cruciaal dat de reclassering alle verdachten en veroordeelden gelijk behandelt. Het is daarom onbegrijpelijk dat de reclassering geen onderzoek naar (indirecte) discriminatie gaat, of laat, uitvoeren, juist nu er duidelijke signalen zijn dat OXREC dit risico met zich meebrengt.
Het algoritme is bovendien niet opgenomen in het algoritmeregister, waardoor er geen transparantie is op hoe OXREC werkt of welke data precies wordt gebruikt. Dit gebrek aan inzicht maakt het moeilijk om vertrouwen te hebben in de uitkomsten. Daarnaast bestaat het risico dat bias uit OXREC geautomatiseerd en genormaliseerd wordt, waardoor institutioneel racisme in de strafrechtketen verder wordt versterkt. Door zich bovendien uitsluitend te richten op juridische rechtvaardiging, lijkt de reclassering voorbij te gaan aan de ethische en maatschappelijke gevolgen van het algoritme. Legaliteit is niet hetzelfde als gelijkheid of rechtvaardigheid.
Kortom: zolang de reclassering niet onderzoekt of OXREC daadwerkelijk discrimineerde en geen transparantie biedt over het algoritme, blijft er een ernstig risico dat mensen met een migratieachtergrond structureel benadeeld worden.