AI Bij de AI-top in Parijs gaat het veel minder over veiligheid en de risico’s van AI en veel meer over investeren. Want de EU heeft een inhaalslag te maken ten opzichte van de VS en China, klinkt het vooral.
Het is niet altijd even makkelijk om Yoshua Bengio te zijn. De meest gerenommeerde AI-expert ter wereld wijst aanhoudend op de risico’s van kunstmatige intelligentie. Maar als hij met politici of techondernemers in gesprek is, voelt het wel eens alsof hij tegen een muur praat, zegt Bengio. „Maar ik probeer te doen wat ik kan. Alles om de risico’s die op ons af komen te verminderen.”
De Canadese professor computerwetenschap van de Universiteit van Montréal vertelt zondag over zijn specialisme, in een ijskoud achterafzaaltje van het Conservatoire National des Arts et Métiers, een prestigieuze onderzoeksinstelling in Parijs. De Franse hoofdstad is dezer dagen het toneel van de ‘AI Action Summit’, waar wereldleiders, topmensen uit het bedrijfsleven en wetenschappers spreken over kunstmatige intelligentie (AI).
Bengio zit – winterjas nog aan, grijze sjaal om zijn nek – onderuitgezakt op een stoel. Hij is omringd door witte bureau’s, rondslingerende kabels en niet aangesloten computerschermen. De wetenschapper zal na het interview met NRC een nauwelijks halfgevulde collegezaal toespreken over ‘existentieel risico’. Dat is de angst dat de mens steeds meer taken uitbesteedt aan AI-systemen, met als potentieel risico dat machines de controle over onze militaire of financiële systemen overnemen.
Als de overheid niet snel ingrijpt en grenzen stelt, dreigen er grote rampen volgens Bengio, die zelfs vreest voor een „oorlog” tussen mens en machine. „Ik snap dat het moeilijk is voor te stellen voor gewone mensen, want de wereld draait gewoon door”, zegt hij. „Maar weet dat techbedrijven op dit moment miljarden investeren in een technologie waarvan niemand weet hoe we die onder controle kunnen houden.”
Over hoe realistisch dit scenario is verschillen de meningen. Bengio staat bekend als zeer pessimistisch. Techondernemers en investeerders benadrukken liever de innovatiekansen die AI met zich meebrengt. Denk aan ontwikkeling van nieuwe medicijnen, verduurzaming van de voedselketen of het efficiënter maken van de zorg.
De ontwikkelingen gaan snel sinds OpenAI’s chatbot ChatGPT in 2022 zijn intrede deed en techbedrijven hun investeringen in datacenters, computerchips en stroomvoorziening met tientallen miljarden per jaar gingen opvoeren. AI-modellen worden steeds slimmer en kunnen inmiddels ingewikkelde wiskundige puzzels oplossen. Op intelligentietesten scoren ze al beter dan mensen.
Waar moet dit toe leiden? Techbedrijven geloven in een toekomst waarbij AI-assistenten ons een groot deel van ons werk uit handen nemen. Een copiloot, die de arts helpt met het beoordelen van medische scans, de advocaat bijstaat met het schrijven van juridische teksten of de consultant assisteert door een Powerpoint-presentatie uit te draaien. De angst onder wetenschappers is dat dezelfde technologie ook kan worden ingezet om cyberaanvallen uit te voeren, verkiezingen te ontwrichten of kinderporno te fabriceren.
De boodschap van Bengio lijkt op dit moment aan dovemansoren gericht. Zelfs in Europa, waar de opkomst van ChatGPT aanvankelijk gepaard ging met veel zorgen over het ontwikkeltempo van de technologie. Inmiddels gaat het in Europa ook vooral over de economische kansen en de noodzaak tot „investeren, investeren, investeren” in de technologie, zoals de Franse president Emmanuel Macron het in een interview voor de top verwoordde.
Europa loopt achter en heeft „een inhaalslag te maken”, zegt ook minister van Economische Zaken Dirk Beljaarts (PVV), een van de aanwezigen in Parijs. „Er voltrekt zich een revolutie in hoe we leven, werken, verdienen, zorgen, communiceren en hoe we met elkaar omgaan”, aldus de minister. Om niet afhankelijk te zijn van China en de Verenigde Staten moeten er volgens Beljaarts dan ook „Europese AI-modellen” komen „die werken volgens Europese normen en waarden”.
Hoe anders was de stemming anderhalf jaar geleden in het Britse Bletchley Park. Daar waarschuwden wereldleiders, onder aanvoering van Europese landen en de Amerikaanse vicepresident Kamala Harris, nog voor „in potentie ernstige, zelfs catastrofale schade” die AI kon aanrichten. Plannen voor overheidsinstanties die AI-systemen op veiligheid moesten testen, zouden in Parijs verder worden uitgewerkt.
Tijdens de conferentie in het centrum van Parijs, in het Grand Palais onder zijn kenmerkende grote, glazen koepel, ging het de afgelopen dagen opvallend weinig over veiligheid. In verschillende zalen van het paleis werd er vooral gesproken over Europese autonomie, de toekomst van werk en het bouwen van ‘competitieve’ AI-systemen. De meeste gesprekken vonden achter gesloten deuren plaats. Journalisten konden de paneldiscussies volgen op grote schermen vanuit de persruimte, met dure, Franse hapjes die door smetteloos geklede obers werden rondgebracht.
De nieuwe Europese realiteit is deels een reactie op de verkiezing van Donald Trump. De Amerikaanse president draaide als een van zijn eerste beslissingen alle AI-regulering van zijn voorganger Joe Biden terug. Met Elon Musk als Trumps adjudant en vicepresident J.D. Vance met diens uitstekende contacten in Silicon Valley, hebben Amerikaanse techbedrijven op dit moment van hun overheid weinig te vrezen.
Trump kondigde vorige maand een investeringspakket in de Amerikaanse AI-sector aan met een waarde van 500 miljard dollar. En ook China innoveert in razend tempo door: het Chinese DeepSeek verraste de wereld vorige maand met een taalmodel dat, tegen een fractie van de kosten, kon wedijveren met de Amerikaanse techgiganten uit Silicon Valley.
Uit gesprekken met betrokkenen tijdens de verschillende evenementen rond de AI Summit bleek duidelijk dat Europa Trump vooral niet te veel voor het hoofd wil stoten. De vrees is dat als Europa Amerikaanse techbedrijven die Europese AI-wetgeving overtreden te hard aanpakt met boetes of extra regelgeving, Trump terugslaat met invoertarieven op Europese producten.
Vicepresident J.D. Vance waarschuwde tijdens zijn speech dinsdag in Parijs de Europese Unie alvast dat zij moet oppassen met „excessieve regulering” die een transformatieve technologie „vermoordt voor ze goed en wel van de grond komt”.
De EU lijkt er inmiddels volledig van doordrongen dat zij zelf een AI-industrie moet opzetten, wil ze niet afhankelijk worden van China en de Verenigde Staten. Een dag voor de top kondigde Macron aan dat Frankrijk de komende jaren 109 miljard euro zal investeren in AI-plannen. Macron sprak zich ook uit voor het „versimpelen” van regelgeving, zodat het makkelijker wordt om te innoveren.
De voorzitter van de Europese Commissie, Ursula von der Leyen, deed daar dinsdag tijdens haar speech nog eens de nodige Europese miljarden bovenop. Geld dat onder meer is bedoeld voor Europese ‘AI-fabrieken’: datacenters vol speciale AI-computerchips waarop de modellen kunnen draaien, om de Europese afhankelijkheid van Microsoft, Amazon en Google te verminderen.
Dan was er nog de Europese coalitie van ruim zestig bedrijven, die maandag aankondigde de komende vijf jaar ook 150 miljard euro in AI te steken. Volgens de Nederlandse techondernemer Stef van Grieken, topman van het Amsterdamse AI-bedrijf Cradle, een van de betrokken bedrijven, is dat geld bedoeld om de welvaart van „toekomstige generaties te garanderen”, zegt hij. Dat Europa wakker is geschud is goed nieuws, vindt Van Grieken. „Want we lopen echt achter.”
En hoe schat hij de risico’s in, waar Yoshua Bengio zich zo’n zorgen over maakt? „Ik, en ook veel wetenschappers, zien AI niet als een technologie die snel zelfbewust wordt of de mensheid grote schade zal berokkenen”, zegt Van Grieken daarover. „Ik ben ervan overtuigd dat we de problemen aankunnen als die zich aandienen.”
Terwijl OpenAI-topman Sam Altman in Parijs aanwezig is voor de AI Summit, probeert techondernemer Elon Musk diens bedrijf te kopen. Een groep investeerders onder leiding van Musk deed een bod van 97,4 miljard dollar (94,4 miljard euro) om de niet op winst gerichte instellingen op te kopen die nu eigenaar zijn van OpenAI, aldus zakenkrant The Wall Street Journal,
Met het bod zou Musk pogingen van Altman willen frustreren om OpenAI om te vormen tot een op winst gericht bedrijf. De non-profit moederorganisatie van het bedrijf heeft binnen OpenAI, dat ooit werd opgericht als bedrijf zonder winstoogmerk, veel invloed.
Altman liet in een bericht aan Musk via X direct weten geen interesse te hebben in het bod van Musk. „Nee, bedankt”, schreef Altman. „Ik wil X wel kopen voor 9,74 miljard dollar als je wil.”
Terwijl in het Grand Palais dezer dagen vooral wordt gesproken over de kansen die kunstmatige intelligentie (AI) biedt, zijn elders in Parijs juist luide zorgen te horen. Zoals in het Théâtre de la Concorde, op steenworp afstand van het glazen paleis waar de AI-top plaatsheeft. Daar hebben de techkritische filosoof Éric Sadin en journalist Éric Barbier maandag een ‘AI-tegentop’ gehouden.
Een bont gezelschap van onder anderen burgemeester Anne Hidalgo, denkers en werknemers uit sectoren die nu al hard zijn geraakt door AI (van vertalers en scenarioschrijvers tot journalisten) kwam bijeen voor zeven uur aan debatten, waarin de al waarneembare negatieve invloed en toekomstige gevaren van AI werden besproken. De aanwezigen concludeerden onder meer dat AI „overal al aanwezig is” en ertoe leidt dat moeizaam opgebouwde expertise minder waard is geworden en bedrijven minder menselijk.
Een werknemer van een PR-bureau vertelde hoe 150 werknemers die persoverzichten maakten, in één klap zijn vervangen door AI. Een vertaalster deelde dat ze afgelopen tijd zag dat AI steeds meer vertaaltaken overnam. „Wij worden beroofd van onze expertise, van de zin van ons werk en van onze verantwoordelijkheid.”
Mede-organisator Éric Barbier vertelde over een experiment bij zijn krant L’Est républicain, waarbij AI artikelen schrijft, waarna een lid van de redactie die alleen nog naleest en er een kop boven zet. „De journalisten is op geen enkel moment om hun mening gevraagd”, aldus Barbier. „Terwijl de redactie (...) met dit hulpmiddel bezig is zichzelf achterhaald te maken.” Ook bij andere bedrijven zouden te weinig gesprekken met de werknemers en vakbonden zijn gevoerd over AI-toepassingen.
Ook meer filosofische kwesties werden aangesneden, zoals de gevolgen voor mens en milieu van de strijd om mineralen die nodig zijn voor de ontwikkeling van AI. Filosoof Sadin, die al jaren kritische boeken schrijft over AI en andere technologische ontwikkelingen, riep aanwezigen op te breken met „onze infantiele relatie tot kunstmatige intelligentie”. Onder anderen journalisten moeten volgens hem stoppen techbedrijven als neutrale bron te benaderen. „Het is alsof je Philip Morris zou vragen om de bron te zijn in een artikel over de gevaren van sigaretten... Het is beter om je tot kankerspecialisten te richten, denk ik.”
En Frankrijk zou Frankrijk niet zijn als er niet ook ruimte was voor ongehoorzaamheid. Een vertaalster riep haar vakgenoten op zich niet meer te laten lenen voor herleesklussen, anderen deelden plannen voor juridische stappen. En halverwege de middag kwam actiegroep Anti-Tech Résistance de debatten verstoren, die zich uitsprak tegen ‘technofascisme’ en ‘ecocidale structuren’ die ten grondslag zouden liggen aan AI, dat erg veel elektriciteit verbruikt.
Erg gewaardeerd werd deze happening niet door de aanwezigen, schrijft Le Figaro. „Wat doen jullie hier?”, riep een man in het publiek volgens de Franse krant. „Jullie hebben je vergist in het doelwit, ga naar het Grand Palais!”
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC