Wat heb je met je werkgroep onderzocht?
'We hebben onderzocht hoe ChatGPT zichzelf representeert tussen nu en 100 jaar. We wilden kijken welke aannames er naar voren komen in deze zelf-representaties, en dan met name welke elementen er bewaard en versterkt worden. Daarnaast hebben we ChatGPT zelf laten uitleggen hoe het op deze antwoorden kwam. We waren benieuwd of dit antwoord verandert naarmate het gesprek binnen een chat vordert. En  we hoopten ook inzicht te krijgen in ChatGPT’s besluitvorming, maar uiteindelijk zijn alle resultaten die gegeven worden performatief.'

Wat zijn ‘critical AI studies’ en waarom is dat belangrijk?
'Kort gezegd kijkt men binnen ‘critical AI studies’ verder dan het technische aspect van AI-gedreven systemen en worden ook de culturele, maatschappelijke, politieke, economische en ecologische implicaties van die systemen onderzocht. Vaak gaan ‘critical AI studies’ over normativiteit en stereotypering die zichtbaar zijn in door-AI-gegenereerde resultaten. Maar ook het energieverbruik van AI en het weglekken van gevoelige gegevens wordt onderzocht. AI is tenslotte niet neutraal, al wordt dat vaak wel zo neergezet en opgevat.'

Waarom wilde je dit onderzoeken?
'Veel van het huidige onderzoek naar “AI-bias” gaat over representaties van mensen en sociale ongelijkheid. We waren benieuwd of AI ook duidelijke vooringenomenheid toont over technologie zelf, juist omdat technologie vaak als neutraal wordt gepresenteerd.'

Wat was jullie aanpak?
'We hebben ChatGPT geprompt om zichzelf in te beelden per tijdsinterval van 25 jaar, zowel tekstueel als visueel. Ook vroegen we per chat hoe ChatGPT op deze antwoorden kwam. De resultaten hebben we naar een spreadsheet gekopieerd en vervolgens verwerkt met verschillende digitale tools. Zo konden we gemakkelijker patronen vinden in onze data.'

Wat was het verrassendste daaraan?
'Uit ons onderzoek blijkt dat ChatGPT een vrij utopisch beeld van zichzelf schetst, waarin mensen en AI in harmonie samenleven en de natuur een grote rol speelt. Daarmee gaat het bijvoorbeeld voorbij aan de impact die AI heeft op het milieu. Het meest bizarre vind ik dat ChatGPT zichzelf in de toekomst inbeeldt als een soort alomtegenwoordig wezen, zonder fysieke vorm. Toch is dit beeld vergelijkbaar met de huidige “Zero UI” trend binnen de tech-industrie. Technologie raakt steeds meer geïntegreerd in ons dagelijks leven, mede doordat het steeds onzichtbaarder wordt.'

Wat is de relevantie hiervan?
'Het aantonen van vooringenomenheid in AI-chatbots zoals ChatGPT is vooral belangrijk om mensen ervan bewust te maken dat ze niet blind op AI kunnen vertrouwen. Gezien trainingsdata grotendeels uit internetcontent bestaat, kunnen AI-chatbots bestaande normativiteit en vooroordelen overnemen of zelfs versterken. ‘Critical AI studies’ in het algemeen is van groot belang omdat AI-gedreven systemen steeds prominenter aanwezig zijn en steeds meer invloed uitoefenen op onze samenleving. Zo worden onder andere gezichtsherkenning en risico-inschattingssoftware internationaal gebruikt door politie en justitie. Vooringenomenheid of stereotypering in deze systemen kunnen grote gevolgen hebben, zowel op individueel als collectief niveau.'

Welke skills heb je geleerd?
'Het gebruiken van een data toolkit was nieuw voor mij. Ik vond dit enorm leuk, gezien ik persoonlijk meer interesse heb in kwantitatief of gemixt onderzoek dan puur kwalitatief onderzoek. Ik heb ook geoefend met het gebruiken van een spreadsheet voor het verwerken van mijn datasets. Het was even wennen, maar toen ik het eenmaal onder de knie had bleek het enorm efficiënt!'

Bereid dit vak jou voor op je latere carrière?
'Zo ver zijn we nog niet, maar dit vak heeft wel voor mij bevestigd dat ik meer de kant van kwantitatief onderzoek op wil binnen mediastudies. Ik denk dat deze eerste ervaringen met het gebruiken van digitale tools voor het verwerken van wat grotere datasets een goede basis vormen voor die ambitie.'