Wanneer je een zoekopdracht in Google typt, krijg je vaak bovenaan de pagina een door AI gegenereerd antwoord te zien. Hoewel dit handig is, is het gegenereerde antwoord niet altijd correct. Bovendien kennen we de redenering achter de output van deze machine learning-modellen niet. Daarom worden de interne mechanismen van deze modellen vaak "black boxes" genoemd. Ana Lucic, universitair docent in AI, pakt dit probleem aan door interpreteerbaarheidsmethoden te ontwikkelen.

Deze interpreteerbaarheidsmethoden openen in feite de black box en proberen de interne werking van een machine learning-model te begrijpen. De grootste uitdaging ligt volgens Lucic in de evaluatie van deze methoden. Lucic legt uit: ‘Als een model een voorspelling doet en je ontwikkelt een methode om deze voorspelling te verklaren, hoe weet je dan of je verklaring goed is? Dat is onduidelijk. Ik denk dat de evaluatiestap een groot open probleem is binnen onze onderzoeksgemeenschap.’

Weersvoorspelling

Naast haar onderzoek naar interpreteerbaarheidsmethoden ontwikkelt Lucic machine learning-technieken voor weersvoorspellingen. Tijdens haar werk bij Microsoft Research was Lucic een van de belangrijkste ontwikkelaars van Aurora, een machine learning-model voor wereldwijde weersvoorspellingen.

Traditionele weersvoorspellingen zijn gebaseerd op het uitvoeren van numerieke weersvoorspellingsmodellen. Dit proces is tijdrovend en kostbaar, omdat het hele model bij elke tijdstap opnieuw moet worden uitgevoerd. Lucic: ‘Bij een machine learning-aanpak trainen we ons model op data die door deze traditionele modellen zijn gegenereerd. Hierdoor kunnen we een machine learning-model creëren dat de traditionele modellen nabootst. Machine learning-modellen zijn sneller, waardoor we op deze manier vele malen sneller voorspellingen kunnen doen.’

Lucic benadrukt dat deze aanpak afhankelijk is van de output van de traditionele modellen, die nog steeds cruciaal zijn voor weersvoorspellingen. Ze wil in de toekomst methoden ontwikkelen om de interpreteerbaarheid van deze weermodellen te verbeteren. Daarnaast streeft ze ernaar Aurora te stabiliseren om nauwkeurigere weersvoorspellingen op lange termijn te kunnen doen.

Terug naar de academische wereld

Gedurende haar carrière heeft Lucic afwisselend in de academische wereld en het bedrijfsleven gewerkt. Direct na haar promotieonderzoek trad ze in dienst bij Microsoft Research. In november 2024 werd ze benoemd tot UvA MacGillavry Fellow met een gecombineerde functie bij het Institute for Logic, Language, and Computation en het Informatics Institute.

Lucic merkt op: ‘Het is best een aanpassing om de academische wereld te verlaten, naar het bedrijfsleven te gaan en dan weer terug te keren naar de academische wereld. Er zijn veel ballen in de lucht te houden, maar tot nu toe is het erg leuk.’ Ze benadrukt een groot voordeel van werken aan een universiteit, namelijk de omgang met mensen die aan een breed scala aan onderwerpen werken. ‘Vooral omdat je deel uitmaakt van twee instituten, hoor je veel interessante ideeën. In het bedrijfsleven ben je vaak meer gefocust op één specifiek onderwerp.’