Voor de beste ervaring schakelt u JavaScript in en gebruikt u een moderne browser!
Je gebruikt een niet-ondersteunde browser. Deze site kan er anders uitzien dan je verwacht.
Waar zou je meer vertrouwen in hebben? Een rechter van vlees en bloed, of een digitale rechter? Uit een nationaal survey blijkt dat we beslissingen die automatisch door AI worden genomen, vaak op gelijke voet beoordelen met beslissingen door menselijke experts. Of soms zelfs beter. Maar we hebben ook zorgen over de risico’s.

UvA wetenschappers onderzochten hoe de Nederlandse bevolking over AI en geautomatiseerde besluitvorming (ADM) denkt, en hoe dit met persoonlijke kenmerken samenhangt zoals opleiding en leeftijd. Ze keken naar ons algemene beeld over ADM, maar vroegen ook naar onze mening over de toepassing van ADM in specifieke maatschappelijke sectoren waar dit al vaak gebeurt: de (nieuws)media, de zorg en justitie.

De Nederlandse bevolking blijkt best wat zorgen te hebben over de maatschappelijke risico’s van geautomatiseerde systemen, maar verdeeld te zijn over het algemene nut en de rechtvaardigheid van ADM. En als we op toepassingen in specifieke sectoren reflecteren, doemt weer een ander beeld op, en blijken we minder risico’s en meer nut te zien in geautomatiseerde systemen.

Statistische methoden zouden het menselijke oordeel overtreffen

Ook in Nederland wordt besluitvorming steeds meer geregeld via geautomatiseerde processen. Dit kan door de grote hoeveelheden data die beschikbaar zijn en dankzij de technische ontwikkeling van AI. Denk bijvoorbeeld aan algoritmen die gepersonaliseerde nieuwsaanbevelingen doen, het geautomatiseerd identificeren van verdachte profielen en virtuele gezondheidscoaches die advies geven aan individuele gebruikers.

Technologieën als big data, machine learning en AI doorlopen vaak een traject van angst naar hype. Tegelijkertijd worden ze als onpartijdig en objectief neergezet in hun gebruik in het dagelijks leven. Dit kan leiden tot allerlei verwachtingen over de objectiviteit en eerlijkheid van een machine. Eerdere studies tonen aan dat we de neiging hebben om een ​​expertsysteem als objectiever en rationeler te zien dan een menselijke adviseur. Dit is vaak gebaseerd op de veronderstelling dat voor bepaalde taken statistische methoden het menselijke oordeel overtreffen.

Hoe denkt de Nederlandse bevolking over ADM?

UvA wetenschappers namen een representatieve steekproef onder bijna duizend Nederlanders af. Ze stelden daarin vragen over hoe nuttig, rechtvaardig en risicovol de respondenten geautomatiseerde besluitvorming door AI vinden. De onderzoekers stelden daarbij verschillende scenario’s voor: van een lage impact zoals het geven van nieuws of fitnessaanbevelingen, tot een hoge impact zoals strafrechtelijke veroordeling of het nemen van beslissingen rond behandelingen van ziektes.

Wat blijkt?

De respondenten zijn in hun beeld over ADM als algemene maatschappelijke ontwikkeling verdeeld. Maar gevraagd naar specifieke toepassingen van ADM zitten ze bij de scenario’s met een hoge impact, zoals rechtspraak, grotendeels op één lijn. En die is niet per se ten gunste van de menselijke experts. Voor de scenario’s met een lage impact, zoals nieuwsaanbevelingen, zagen de onderzoekers deze significante verschillen niet.

Hoe verklaren we verdeeldheid in het algemene beeld over AI?

De volgende persoonlijke kenmerken verklaren (deels) de verdeeldheid bij het algemene beeld over ADM.

  • Het kennisniveau: meer kennis leidt tot hogere verwachtingen van en optimisme over het nut van ADM.
  • De mate van online effectiviteit (het zelf kunnen beschermen van online privacy): groter vertrouwen in de eigen online effectiviteit leidt tot meer vertrouwen in de rechtvaardigheid en het nut van ADM en tot een verminderd geloof in risico’s.
  • De leeftijd: hoe ouder hoe minder nuttig ADM wordt geacht en hoe meer risico’s worden gezien.
  • Het geslacht: mannen vinden ADM nuttiger dan vrouwen.
  • Idealen: mensen die economische gelijkheid als ideaal hebben, zijn optimistischer over de rechtvaardigheid en het nut van ADM.

Conclusie

Nederlanders maken zich over het algemeen zorgen over de risico’s van geautomatiseerde besluitvorming, maar hebben verdeelde meningen over hoe eerlijk en nuttig ADM voor de samenleving kan zijn. Gevraagd naar de toepassing in specifieke sectoren, staat ADM echter op gelijke voet met, of wordt zelfs beter beoordeeld, dan menselijke experts. 

Deze percepties van ADM staan in contrast met de vaak kritische en pessimistische toon in mediaberichten, en de academische literatuur. Daarin overheersen eerder de angst voor vooringenomenheid, verlies van menselijke waardigheid en autonomie, en algemene zorgen over 'AI-overname' ter vervanging van menselijke experts.

Publieke opvattingen zijn geen acceptatie van daadwerkelijk toepassing

Maar stellen de onderzoekers, heel belangrijk te benadrukken: ‘publieke opvattingen over het potentiële nut en rechtvaardigheid van ADM zijn niet hetzelfde als maatschappelijke en individuele acceptatie van daadwerkelijk geautomatiseerde beslissingen. We moeten nog beter te weten komen of en onder welke voorwaarden mensen ADM-beslissingen niet alleen eerlijker ervaren, maar ook bereid zijn een geautomatiseerde beslissing te accepteren.’

Meer informatie

Theo Araujo, Natali Helberger, Sanne Kruikemeier & Claes H. de Vreese, 'In AI we trust? Perceptions about automated decision-making by artificial intelligence.' AI & Soc (2020). https://doi.org/10.1007/s00146-019-00931-w

Prof. dr. T.B. (Theo) Araujo

Faculteit der Maatschappij- en Gedragswetenschappen

ASCoR

Prof. dr. N. (Natali) Helberger

Bestuur en Bestuursstaf

Prof. dr. C.H. (Claes) de Vreese

Bestuur en Bestuursstaf