Bij het opzetten van onderzoekscentrum DReaMSlab heeft de UvA de voorgeschreven wegen bewandeld en subsidie aangenomen van Huawei, een bedrijf met een negatieve rol in de mensenrechtenschendingen in China. De COR vindt dat bedenkelijk, en wil dat dergelijke samenwerkingen eerst ethisch getoetst worden in een open discussie binnen de academische gemeenschap.

Met subsidie van Huawei zetten de heren Hamelen (VU), Vossen (VU) en de Rijke (UvA) DReaMSlab op: zoekmachines worden verbeterd, zoekopdrachten afgestemd op de gebruiker, inclusief meertaligheid. Het lijkt relatief onschuldig, maar de acceptatie van Huawei als subsidiegever van 3.5 miljoen euro is dat niet.

Deze participatie heeft namelijk grote symbolische waarde: samenwerking toont immers dat het bedrijf in het Westen welkom is en heeft de schijn ook zijn andere praktijken te legitimeren, ondanks een bedenkelijke recente historie, zie bijvoorbeeld https://www.aspi.org.au/report/mapping-more-chinas-tech-giants. Deze samenwerking heeft dus gevolgen voor de naam van al onze onderzoekers. Dit gaat de gehele UvA aan, en zelfs de gehele Nederlandse academische gemeenschap. Hier past een open discussie in de gemeenschap.

Hoewel de keuze voor dit bedrijf als partner voor onderzoek zorgvuldig werd gedaan - juridisch was het in orde, het werd besproken met AIVD en ministeries – is de COR is van mening dat hier ethisch getoetst had moeten worden.

Veel AI onderzoek kan ingezet worden voor positieve, maar ook voor verwerpelijke activiteiten, zo ook het onderzoek van Dreamslab. De resultaten uit het onderzoek worden open gedeeld, zodat verzekerd wordt dat niet alleen de Chinese overheid met de resulterende technologie zal werken. Is dat genoeg om de kwalijke rol van de sponsor elders te compenseren?

De COR vindt dat de UvA met een gezamenlijke gedragscode in zo'n geval richting moet geven, en dat een universiteitbrede Ethische Commissie zich vooraf publiekelijk moet uitspreken over samenwerking. Daarna pas horen College van Bestuur en COR de samenwerking te bespreken. We willen niet nogmaals achteraf moeten constateren dat een boze droom al werkelijkheid is, zoals bij het huidige DReaMSlab is gebeurd.

Voor berichten aan de COR kun je mailen naar cor@uva.nl

DReaMS Lab: a bad dream about collaboration between Huawei, UvA and VU Amsterdam

When developing the DReaMS Lab research centre, the UvA followed the prescribed process and accepted a subsidy from Huawei, a company that plays a negative role in the violation of human rights in China. The Central Works Council (COR) considers this questionable and wants any such collaboration to first be ethically assessed in an open discussion within the academic community.

Prof. Harmelen (VU Amsterdam), Prof. Vossen (VU Amsterdam) and Prof. de Rijke (UvA) used the subsidy from Huawei to develop DReaMS Lab: search engines will be improved, search engine queries tailored to specific user needs, including multilingualism. This may seem relatively harmless, but accepting 3.5 million euros from a sponsor like Huawei is not that by any means.

This participation carries great symbolic significance: collaboration implies that the company is welcome in the West and appears to legitimise its other practices, despite its dubious recent history. See, for example https://www.aspi.org.au/report/mapping-more-chinas-tech-giants. This collaboration affects the reputation of all our researchers. This concerns the whole of UvA, and even the entire Dutch academic community. An open discussion within the community is therefore appropriate.

Although the choice of this company as research partner was made with great care – it was legally sound and discussed in advance with the General Intelligence and Security Service (AIVD) and the relevant ministries – the COR is nevertheless of the opinion that it should have been ethically assessed.

While much of AI research can be used for positive activities, it can also be used for reprehensible activities. This also applies to DReaMS Lab research. The results of the research will be openly shared to ensure that the resulting technology will not be used exclusively by the Chinese government. Is that enough to compensate for the sponsor’s unscrupulous role elsewhere?

The COR believes that the UvA should provide direction in such cases, with a collective code of conduct, and that a university-wide Ethics Committee should comment publicly on collaboration beforehand. Only then should the Executive Board and the COR discuss the collaboration. We do not want to again discover that a bad dream has already become reality, as has happened now with DReaMS Lab.

If you wish to contact the COR, please use the following email address: cor@uva.nl