Voor de beste ervaring schakelt u JavaScript in en gebruikt u een moderne browser!
EN

Zijn algoritmische nieuwsaanbevelers — en de filterbubbels die ze creeëren — een bedreiging voor de democratische rol van de media? Of bieden ze een gouden kans om democratische waarden en doelen te stimuleren? En zo ja, hoe zouden ze ontworpen moeten worden om hun doel te bereiken? Dit zijn de centrale vragen die een interdisciplinair team van UvA-onderzoekers beantwoordt. Het team kijkt naar de manier waarop digitale technologie de rol van de media verandert en hoe die technologie invloed heeft op gebruikers, de maatschappij en uiteindelijk de wet.

De wetenschappers onderzoeken de implicaties van data-analyse en machine learning op de rol van de media, omdat er een verschuiving is van traditionele massamedia naar meer gepersonaliseerde verspreidingsmethoden en nieuwsplatforms. Met financiering van de Europese Onderzoeksraad (ERC) en het SIDN-fonds werken ze aan het uit de weg ruimen van de filterbubbel. Ook willen ze de kracht van AI gebruiken om tot betere en meer succesvolle aanbevelingen te komen. Dit kan door de ontwikkeling van instrumenten die de diversiteit in aanbevelingen meten op basis van democratische principes.

Teamleider Natali Helberger: 'Een van de belangrijkste bevindingen van dit project is dat we slimmer moeten nadenken over algoritmen en AI in de media, en hoe we ze kunnen gebruiken op een manier die de publieke missie van de media bevordert om gebruikers te informeren in deze tijden van overbelasting en misinformatie. Zo kunnen we hen helpen om een gevarieerd mediadieet te consumeren.'

Nieuwe macht en nieuwe verantwoordelijkheden
In onze algoritme-gedreven wereld hebben nieuwsorganisaties de macht om de blootstelling van mensen aan het nieuws actief te sturen en te vormen. Die macht brengt nieuwe verantwoordelijkheden met zich mee en roept nieuwe en fundamentele vragen op, bijvoorbeeld over de rol van nieuwsadviseurs bij het vervullen van de democratische missie van de media. Hoe divers zouden de aanbevelingen moeten zijn? Hoe persoonlijk relevant en hoe inclusief? Hoe ver moeten de media gaan in de omgang met het publiek en wat is de rol van andere waarden, zoals participatie, transparantie, overleg en privacy? Wat zijn de maatschappelijke implicaties op langere termijn van gepersonaliseerde informatieverstrekking? En meer in het algemeen, wat zijn de doelstellingen en waarden waarvoor aanbevelingen moeten worden geoptimaliseerd?

Copyright: UvA
Individuele belangen zoals privacy, autonomie en nauwkeurigheid moeten worden afgewogen tegen de mogelijkheden die data en AI bieden om burgers beter te informeren en zelfs op te voeden. Algoritmische nieuwsaanbevelingen zijn op zich niet goed of slecht voor de democratie. Het is de manier waarop de media de technologie gebruiken die bedreigingen of kansen creëert. Natali Helberger

Uit het onderzoek van het team blijkt dat de algoritmen voor nieuwsaanbevelingen veelal zijn geoptimaliseerd voor vrij simplistische kortetermijnstatistieken, zoals kliks, bestede tijd en eerder gebruikersgedrag. Maar, zo zeggen de onderzoekers, als we meer nadenken over de manier waarop aanbevelers kunnen helpen om mensen beter te informeren, hen meer gevarieerde keuzes te geven en tegelijkertijd hun privacy en autonomie te respecteren, kunnen het wellicht enorm nuttige hulpmiddelen zijn voor nieuwsmedia. Het onderzoek toont aan dat er, ondanks enkele goede initiatieven, helaas nog te vaak een kloof bestaat tussen de afdeling waar de technologie ontwikkeld wordt en de redacteuren en journalisten die meestal de keuze maken welk nieuws ze aan de lezer willen laten zien.

Ontwikkeling van slimmere adviesmethoden
Dit alles heeft de onderzoekers in contact gebracht met mediabedrijven in Nederland, België, Duitsland en het Verenigd Koninkrijk, met wie zij samenwerken aan de ontwikkeling van slimmere adviesmethoden. Hun benadering van diversiteit in aanbevelingen is omarmd door een internationale groep van deskundigen uit de informatica, rechten en communicatiewetenschap, in het zogenaamde Dagstuhl Manifesto.

Positieve en negatieve effecten op de vrijheid van meningsuiting
De juridische en fundamentele rechtenimplicaties van de algoritmen bieden een ander belangrijk inzicht in het onderzoek. Zulke algoritmen kunnen het recht van gebruikers op vrijheid van meningsuiting zowel positief als negatief beïnvloeden. Nieuwsaanbevelingen en personalisatiestrategieën kunnen nieuwe digitale kwetsbaarheden creëren. Gebruikers zien bijvoorbeeld alleen gepersonaliseerd nieuws - en dus geen ander nieuws - op social media of zijn het onderwerp van manipulatieve targeting (waaronder politieke microtargeting). Aan de andere kant kunnen nieuwsaanbevelers mensen helpen om relevanter nieuws te vinden. Empirisch onderzoek heeft bevestigd dat gebruikers geautomatiseerde nieuwsaanbevelingen daadwerkelijk waarderen (zelfs méér dan de aanbevelingen van mensen) op voorwaarde dat de algoritmes rekening houden met de privacy en de interesse voor divers nieuws.

Door hun inzichten is het team gevraagd om de Europese raad, het Nederlandse Commisariaat voor de Media en overheden in Nederland, Duitsland, het Verenigd Koninkrijk en Canada (in samenwerking met UNESCO) te adviseren over strategieën voor het realiseren van zulke algoritmen.