Op welke manieren gebruiken rechters AI?

‘Dat loopt uiteen van heel saaie, administratieve taken tot impactvolle beslissingen. AI sorteert documenten of helpt met het opzoeken van jurisprudentie. Maar je hebt ook systemen die mensen profileren en concluderen dat iemand 70 procent kans heeft op herhaling. Andere AI-systemen schrijven daadwerkelijk uitspraken en nemen het werk van de rechter over. AI is in staat om levens te verwoesten in zaken over bijvoorbeeld voogdij, gevangenisstraffen en uitkeringen.’

Wordt AI ook in Nederland gebruikt door rechters?

‘In Nederland zijn er pilots geweest waarmee in eenvoudige zaken uitspraken met AI worden geschreven, maar veel verder gaat dat hier nog niet. Profileringssystemen worden wel veelvuldig gebruikt, bijvoorbeeld door de reclassering. Met de opkomst van taalmodellen zie je dat AI veel groter wordt in de rechtspraak. In andere landen wordt AI al veel meer gebruikt in de rechtspraak. China en Brazilië zijn koplopers.’

Zijn China en Brazilië voorbeeldlanden?

‘China niet. Dat land is koploper als het gaat om het gebruik van AI, maar niet op het gebied van regulering. Brazilië is dat wel. Er is daar uitgebreide en gedetailleerde wetgeving specifiek voor het gebruik van AI in de rechtszaal. Nu denk ik niet dat rechters massaal gemakzuchtig hun uitspraken met AI zullen schrijven. Maar het is interessant hoe allerlei taken steeds meer uitbesteed worden. In mijn onderzoek kijk ik naar hoe burgers allerlei vragen kunnen hebben over het gebruik van AI door een rechter: waarom kwam AI met deze output in mijn zaak? Waarom schreef het systeem deze uitspraak? Waarom heb ik zoveel procent kans op recidive? En waarom gebruikt AI deze zaken ter vergelijking, en andere niet? Burgers behoeven te weten welke logica erachter zit.’

Is dat heel lastig om AI-systemen te doorgronden?

‘Het kan soms moeilijk of zelfs onmogelijk zijn om een uitleg te verschaffen, afhankelijk van het geval. Een van de belangrijkste redenen is van technische aard. De grootste AI-modellen kunnen zich gedragen op een manier die voor mensen onlogisch en onnavolgbaar is.’

Waarom is het belangrijk om te weten hoe AI tot iets komt?

‘Het is gevaarlijk en schadelijk als we dat niet weten voor de “procedurele rechtvaardigheid”, oftewel de mate waarin mensen het proces en de besluitvorming als eerlijk ervaren. Je kunt geen fouten opsporen in een systeem dat je niet begrijpt. Dat betekent dat je fouten ook niet kunt aanvechten, terwijl het om een levensveranderende zaak kan gaan. Misschien word je in een zaak over uitkeringen door AI gereduceerd tot een aantal factoren waar jij geen weet van hebt. Maar daar kun je niet tegenin gaan, omdat je niet weet hoe het systeem je bekijkt. Als die fouten niet worden ontdekt, kan AI op grote schaal levens verwoesten. Het tweede probleem is dat burgers niet gerespecteerd worden in een procedure waarin ze niet mee kunnen doen. Sterker nog; het getuigt van een gigantisch gebrek aan respect. Burgers verdienen het om mee te kunnen kijken en beslissingen aan te kunnen vechten.’

Hoe kan AI in de rechtspraak beter worden uitgelegd?

‘Al tijdens het ontwikkelingsproces van AI moeten we kijken hoe het uit te leggen is aan de burger. Daardoor kan de rechtspraak ook bijvoorbeeld gaan reflecteren op de vraag of het niet een beter uitlegbaar type AI-model zou moeten gebruiken.’

Is het realistisch dat AI uitlegbaar wordt?

‘Ja, ik denk dat deze maatregelen praktisch uitvoerbaar zijn. Tegelijkertijd geldt: AI-systemen zoals taalmodellen kunnen veel werk heel goedkoop doen, maar ze zijn niet getrouw uitlegbaar. Dus als je die taalmodellen wil vervangen door uitlegbare modellen, kan dat in sommige gevallen veel geld en tijd kosten. Hetzelfde geldt voor profileringssystemen. Soms gebruiken we onuitlegbare systemen omdat ze krachtiger zijn en patronen vinden die anders verborgen blijven. Het is daarnaast best begrijpelijk dat taalmodellen, zoals ChatGPT, worden gebruikt voor taken zonder veel impact, zoals het controleren op taalfouten. Maar wanneer is de impact wel of niet groot van een bepaalde taak? Dat is al lastig vast te stellen.’

Wie houdt nu toezicht op het gebruik van AI in de rechtspraak?

‘De rechtspraak zelf houdt toezicht op het gebruik van AI. Daar wordt goed over nagedacht. De output van een AI-systeem wordt echt niet klakkeloos overgenomen door een rechter. Maar als dat misgaat moet de burger nog de kans hebben om zichzelf te kunnen verdedigen. Daarom is de uitlegbaarheid van AI zo belangrijk. Het is een allerlaatste check. Maar wat mij betreft kijken we ook van tevoren welke burgers we opzadelen met die “last”. Het vergt namelijk tijd, kennis en financiën om in het AI-gebruik in een zaak te duiken – zelfs als het AI-systeem uitlegbaar is. Ik zou AI eerder inzetten in een zaak tegen een groot bedrijf dat verdacht wordt van fraude dan in een zaak over uitkeringen. We hoeven AI niet in elke rechtszaak te gebruiken.’

Is het recht op uitlegbaarheid uiteindelijk niet gewoon te duur?

‘Het ontwikkelen van uitlegbare AI en het produceren van een uitleg kost tijd en geld. Ik snap het perspectief dat een rechtsprocedure ook betaalbaar moet zijn voor de maatschappij. Maar wat zo bijzonder is aan de rechtspleging, is dat je het recht hebt om je stem te laten horen – ongeacht of dat financieel uitkomt. De aanvechtbaarheid van rechterlijke AI mogen we niet zomaar wegwuiven. Zelfs al zou AI feilloos zijn, wat het zeker niet is, verdien jij het als persoon om het systeem te kunnen checken. Je verdient het om gehoord en gerespecteerd te worden. Dat kun je niet terugbrengen tot een kostenpost. Ja, we moeten meewegen wat alles kost, maar mensen hebben een onaantastbare waardigheid. Ook in een digitale samenleving.’