Amerikaanse dreigementen tegen Anthropic

De Amerikaanse minister van Defensie Pete Hegseth dreigt een contract ter waarde van 200 miljoen dollar tussen het leger en Anthropic te beëindigen. Hij wil het bedrijf zelfs bestempelen als een ‘risico voor de toeleveringsketen’ als het niet onbeperkte toegang geeft tot zijn data. Daardoor zouden bedrijven die met het Pentagon samenwerken ook geen producten van Anthropic meer mogen gebruiken.

‘De VS gebruiken die eerste maatregel normaal tegen bedrijven uit vijandelijke staten, zoals het Russische antivirusbedrijf Kaspersky’, zegt Marten Zwanenburg in De Morgen. Zwanenburg is hoogleraar Militair recht aan de UvA en is verbonden aan de Nederlandse Defensieacademie.

Trumps regering overweegt bovendien om de Defense Production Act (DPA) in te zetten. Met die maatregel kan de president privébedrijven verplichten zich ten dienste te stellen van de overheid. Dat gebeurde tijdens de coronacrisis om de productie van mondmaskers op te voeren. ‘Terwijl die bedoeld is als wetgeving voor uitzonderlijke situaties’, zegt Zwanenburg.

AI, defensie en existentiële risico’s

Medeoprichter en topman van Anthropic, Dario Amodei, waarschuwt al langer voor de gevaren van AI. Hij doelt daarmee op de AI-systemen die ook zijn bedrijf in razendsnel tempo ontwikkelt. Anthropic biedt het populaire taalmodel Claude aan en AI-tools die bedrijven vooral gebruiken voor coderen, data-analyse en het stroomlijnen van processen.

Amodei vreest dat AI-systemen zich tegen de mens kunnen keren, zoals een chatbot die in een testomgeving in hypothetische scenario’s bereid was ingenieurs te chanteren of zelfs te vermoorden om te voorkomen dat hij werd uitgeschakeld.

De paradox die Natali Helberger, universiteitshoogleraar Recht & Digitale Technologie, ziet is dat het bedrijf van Amodei, Anthropic, op volle snelheid producten blijft ontwikkelen, terwijl het continu waarschuwt voor het existentiële gevaar daarvan. Helberger noemt dat een ‘ingewikkelde balanceeract’ in NRC.

Techniek versus recht, ethiek en democratische waarden

De discussie rond Anthropic en het Pentagon laat zien dat AI niet alleen een technische kwestie is, maar diep raakt aan recht, ethiek en democratische waarden. Zoals universitair docent Giedo Jansen zegt: ‘De vraag is niet óf we AI moeten gebruiken; het komt eraan. We moeten mensen helpen om er verantwoord mee te werken.’ Hij onderzoekt samen met Elke Olthuis en Rachel Rietveld hoe het juridische werkveld verandert door slimme technologie. Volgens Jansen vraagt die ontwikkeling om duidelijke juridische kaders en professionele normen.