Op welke manieren krijgen patiënten momenteel met AI te maken?

‘Op veel manieren. Als je een verdacht vlekje op je huid hebt, kun je een app gebruiken om je huid te scannen en te zien wat er aan de hand is. Of je kunt technologie inzetten om het patroon van je hoest te analyseren, om te achterhalen of je een specifieke longziekte hebt. We hebben ook generatieve AI, zoals ChatGPT, waarmee je gezondheidsadvies kunt krijgen zonder toezicht van een arts. Dit alles heeft invloed op de relatie tussen patiënten en zorgverleners, omdat sommige verantwoordelijkheden worden overgenomen door technologie. Ik zie dat veel zorgverleners deze tools al gebruiken, wat juridische en ethische vragen oproept.’

Welke zorgen roept deze nieuwe technologie op?

‘Deze innovaties moeten de samenleving als geheel ten goede komen en de ongelijkheid niet vergroten. We weten dat momenteel niet iedereen er in gelijke mate van profiteert. Wat mijn interesse in dit onderwerp echt heeft gewekt, is de vraag naar rechtvaardigheid. Sommige mensen hebben geen toegang tot technologie omdat ze in een land wonen zonder adequate digitale infrastructuur. Je hebt ook een bepaald niveau van digitale geletterdheid nodig om generatieve AI te kunnen gebruiken. Ouderen hebben om die reden mogelijk minder toegang tot digitale technologieën in de gezondheidszorg. We weten ook dat tools vaak worden getraind op databases die niet alle etnische groepen vertegenwoordigen. Studies tonen aan dat veel tools bijvoorbeeld zijn getraind op datasets die voor ongeveer 80 procent bestaan uit mensen met Europese voorouders. Het ligt aan je achtergrond hoe je door AI wordt beïnvloed.'

Waar leidt dat toe?

‘Als je geen aandacht besteedt aan dit probleem en te veel vertrouwt op AI, lopen minderheden uiteindelijk het risico op slechtere gezondheidszorg. Mijn grootste zorg is dat als mensen zich realiseren dat deze tools niet voor iedereen werken, minderheden hun vertrouwen in de gezondheidzorg beginnen te verliezen. Dat kan een averechts effect hebben en ertoe leiden dat mensen de zorg helemaal gaan mijden. We hebben hier al voorbeelden van gezien.’

'Het is cruciaal dat patiënten het zorgsysteem kunnen vertrouwen. Je gaat naar het ziekenhuis en besluit het systeem te vertrouwen wanneer je hulp nodig hebt met je lichamelijke of geestelijke gezondheid. AI zou dat vertrouwen moeten versterken, niet ondermijnen. Een patiënt kan alleen vertrouwen hebben in dit soort tools als deze voor hem of haar zijn ontworpen. Er wordt op dit gebied veel uiteenlopend onderzoek gedaan: sommige onderzoeken richten zich op transparantie, andere op privacy. Voor mij zijn dat allemaal puzzelstukjes van betrouwbaarheid. We moeten toewerken naar een situatie waarin we dat vertrouwen kunnen uitstralen naar patiënten, zodat zij de gezondheidszorg vertrouwen wanneer ze hulp nodig hebben.’

Hoe kunnen deze innovaties wél inclusief worden?

‘We hebben veel mogelijkheden om dit probleem aan te pakken. Wanneer je een nieuw hulpmiddel ontwikkelt, moet het goedgekeurd worden door medische toezichthouders. Op dit moment besteden zij nog onvoldoende aandacht aan het gebrek aan inclusiviteit. Ik vind dat ze daar kritischer naar moeten kijken. Discrimineert deze technologie minderheden? Zijn er problemen met de database? Gegevens die alleen van mannen afkomstig zijn, werken bijvoorbeeld niet automatisch voor vrouwen. We zouden een verplichte “fairness check” moeten invoeren die door toezichthouders wordt geïmplementeerd. Een deel van mijn project is om rechtvaardigheid nauwkeuriger te definiëren. Er is een duidelijk rechtvaardigheidsprobleem bij AI in de gezondheidszorg. Ik wil onderzoeken hoe dat vanuit juridisch en regelgevend perspectief kan worden opgelost.’

Wat hoop je te bereiken?

‘Uiteindelijk wil ik een kader ontwikkelen dat zowel regelgevers als ontwikkelaars kunnen gebruiken om technologie inclusiever te maken. Daarnaast wil ik het bewustzijn over bestaande problemen vergroten en een open maatschappelijke discussie stimuleren.’