Voor de beste ervaring schakelt u JavaScript in en gebruikt u een moderne browser!

De meeste organisaties willen niemand discrimineren. Maar ze hebben niet door dat hun systemen discriminerende effecten hebben'. Dat schrijft Hoogleraar Frederik Zuiderveen Borgesius in zijn rapport voor de Raad van Europa over artificial intelligence (AI), algoritmische besluitvorming en het risico op discriminatie.

Robot thinking with mathematic formulas in the background

Frederik Zuiderveen Borgesius schreef een rapport voor het Anti Discrimination Department van de Raad van Europa. Het rapport gaat in op de risico’s van discriminatie veroorzaakt door algoritmische besluitvorming en andere soorten van kunstmatige intelligentie. 

In de publieke en private sector kunnen organisaties AI gebruiken om beslissingen te nemen met verstrekkende gevolgen voor mensen. Overheidsorganen zouden AI kunnen gebruiken voor predictive policing, of om uitkeringsfraudeurs op te sporen. In de private sector zouden bedrijven AI kunnen gebruiken om sollicitanten te selecteren, en banken zouden AI kunnen gebruiken om te beslissen of ze iemand krediet verlenen. Bovendien kunnen veel kleine beslissingen, samengenomen, grote effecten hebben. AI-gestuurde prijsdiscriminatie zou er bijvoorbeeld toe kunnen leiden dat bepaalde groepen in de samenleving consequent meer betalen.

Artificial intelligence heeft veel voordelen, en kan bijvoorbeeld bijdragen aan efficiëntie, economische groei, en veiligheid. Maar AI kan ook mensenrechten en andere belangrijke waarden bedreigen, zoals het recht op non-discriminatie. Eén van de problemen is dat AI onbedoeld kan leiden tot ongeoorloofde en oneerlijke discriminatie. Dat kan onder meer gebeuren als een AI-systeem leert van menselijke beslissingen die discrimineren.

Wetgeving ontoereikend

De huidige wetgeving lijkt ontoereikend om mensen te beschermen tegen AI-gestuurde discriminatie.De nieuwe Algemene Verordening Bescherming Persoonsgegevens (AVG) bevat regels over AI-beslissingen, maar die regels laten gaten vallen. Als een organisatie bijvoorbeeld een beslissing laat nemen door een medewerker met behulp van AI-voorspellingen, dan is het maar de vraag of de AVG-regels over geautomatiseerde beslissingen van toepassing zijn. 

Ook non-discriminatierecht heeft zwakke punten. Zo zijn de meeste non-discriminatiewetten alleen van toepassing als mensen worden gediscrimineerd op basis van een wettelijk aangewezen grond, zoals huidskleur of geslacht. Die wetten zijn niet van toepassing als bijvoorbeeld op grond van inkomen wordt gediscrimineerd. Kortom, huidige wetten lijken onvoldoende om mensenrechten en andere belangrijke waarden te beschermen in de context van AI.

Aanvullende regelgeving nodig

We hebben waarschijnlijk aanvullende regelgeving nodig om mensen te beschermen tegen oneerlijke discriminatie door AI, concludeert Zuiderveen Borgesius. Maar het reguleren van AI in het algemeen is niet de juiste aanpak, omdat het gebruik van AI-systemen te gevarieerd is voor één set regels. In verschillende sectoren staan ​​verschillende waarden op het spel. Daarom moeten sectorspecifieke regels worden overwogen. 

Rapport

Het rapport is hier te raadplegen, in het Engels of in het Frans.