Het betreft een gezamenlijk project met Ana Oprescu (Science Park), getiteld ‘SafeGenAI: Safe Generative AI tools for Creative Industries: current and future practices.’

SafeGenAI: bescherming van creativiteit in een AI-gedreven wereld

Het SafeGenAI-project ontwikkelt nieuwe empirische methoden om te meten hoe creatief generatieve AI daadwerkelijk is. Door deze nieuwe creativiteitsmetingen als traceerbare identificatoren te integreren in privacyversterkende technologieën, ontwikkelen de onderzoekers een flexibel en attributiebewust raamwerk (gericht op het herkennen, volgen en vastleggen van wie wat heeft gemaakt). Dit helpt makers hun werk te beschermen tegen ongeautoriseerd gebruik.

Praktische tools voor makers

Samen met 2 postdocs (1 bij ABS en 1 bij de Faculteit der Natuurwetenschappen, Wiskunde en Informatica) ontwikkelt het team instrumenten waarmee makers:

• duidelijke gebruiksvoorwaarden voor hun werk kunnen vaststellen;
• kunnen volgen hoe content zich door AI-gedreven processen beweegt;
• bewijs kunnen genereren, zoals attributieregistraties en audit trails, ter ondersteuning van handhaving en verantwoord hergebruik.

Dit flexibele, attributiebewuste raamwerk ondersteunt zowel innovatie als verantwoording.

Interdisciplinair team en partners

SafeGenAI brengt een interdisciplinair team samen met onderzoekers van de Universiteit van Amsterdam: Sander Klous, Martin Senftleben, Tom van Engers, Stevan Rudinac en Nachoem Wijnberg.
Industriële partners zijn het Nederlands Instituut voor Beeld en Geluid, Stichting Privacy First, Cyber Dune, Calango en Storm Post-Productions.