Een grote groep vooraanstaande politici, AI-onderzoekers en wetenschappers, onder wie tien Nobelprijswinnaars, doen een dringende oproep aan de politiek voor bindende maatregelen tegen gevaarlijk gebruik van AI.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Regeringen over de hele wereld moeten zo snel mogelijk de koppen bij elkaar steken om ‘universeel onaanvaardbare risico’s’ van AI tegen te gaan en om te bepalen waar de grenzen liggen bij het gebruik van AI, aldus het pleidooi.
Zo kondigde de Filipijns-Amerikaanse journalist Maria Ressa (winnaar Nobelprijs voor de Vrede in 2021) een nieuw, ambitieus initiatief aan om de gevaren van AI in te dammen. Ze deed dat in haar openingstoespraak bij de Algemene Vergadering van de Verenigde Naties.
Een grote en brede groep van tweehonderd politici, beleidsmakers, wetenschappers, AI-ethici en schrijvers ondertekenden deze wereldwijde oproep voor rode lijnen voor AI al. Onder hen bevinden zich ook Nobelprijswinnaars als Geoffrey Hinton (natuurkunde) en Joseph Stiglitz (economie), schrijver Yuval Noah Harari, Turing Award-winnaars Yoshua Bengio en Andrew Yao en werknemers van commerciële AI-labs als Anthropic en Google DeepMind.
Zij onderschrijven allen de inhoud van de open brief, die rept van ‘ongekende gevaren’ als gevolg van de huidige snelle ontwikkelingen rondom AI. Specifiek noemen de initiatiefnemers risico’s als wijdverbreide desinformatie, grootschalige manipulatie van individuen en massale werkloosheid.
Het is niet voor het eerst dat prominenten een dergelijke oproep doen. De bekendste was in het voorjaar van 2023, kort na de introductie van ChatGPT. Destijds ijverden ze voor een wereldwijde pauze in het gebruik van de sterkste modellen. Die kwam er niet. Integendeel: de ontwikkelingen zijn sindsdien alleen maar in een stroomversnelling gekomen.
Een van de meest in het oog springende ondertekenaars was destijds Elon Musk. Zijn naam, in combinatie met al te uitbundig geformuleerde toekomstvisioenen over ‘digitale geesten’, zorgde toen voor veel controverse. Critici meenden dat die oproep alleen maar bijdroeg aan het vergroten van de hype rondom AI.
Dit keer is Elon Musk de grote afwezige. Verder staat er ook nu weliswaar iets in over AI die ‘binnenkort de menselijke mogelijkheden ver zou kunnen overtreffen’, maar de toonzetting is minder apocalyptisch.
Maar dat betekent niet dat de zorgen sindsdien minder zijn geworden. Zo zegt historicus Harari: ‘Met AI krijgen we misschien niet de kans om van onze fouten te leren, omdat AI de eerste technologie is die zelfstandig beslissingen kan nemen, zelf nieuwe ideeën kan bedenken en zich aan onze controle kan onttrekken.’
Overal zijn inmiddels regels bedacht rondom AI, zoals in de Europese AI Act. Dat is niet genoeg, menen de organisaties achter het pleidooi voor een rode lijn voor AI. Alleen wereldwijde afspraken zullen helpen, zeggen zij.
Dit zal lastig genoeg zijn. Tegenover de Europese AI Act, dat de grootste AI-risico’s wil indammen, staat bijvoorbeeld het Amerikaanse AI Action Plan. Dit heeft juist als doel de Amerikaanse AI-industrie zo sterk mogelijk te maken door beperkende regels weg te nemen en volop te investeren in rekenkracht.
Recent nam de Amerikaanse overheid zelf nog een belang in chipmaker Intel, dat vervolgens een miljardeninvestering van Nvidia kreeg. Hetzelfde Nvidia maakte ongeveer tegelijk met de toespraak van Ressa bekend dat het 100 miljard dollar steekt in een samenwerkingsverband met ChatGPT-maker OpenAI. De twee partijen spreken over ‘het grootste AI-infrastructuurproject in de geschiedenis’.
Een van de ondertekenaars van de nieuwe noodkreet is de Nederlander Otto Barten, oprichter van het Existential Risk Observatory. Hij ziet ook deze spanning tussen enerzijds de economische en geopolitieke belangen van landen die voorop willen lopen met AI en anderzijds de zorgen rondom AI.
‘Het is achteraf makkelijk praten, maar ik denk dat het idee van een pauze niet het juiste beleidsvoorstel was’, zo blikt Barten terug. Bij de nieuwe oproep gaat het niet zozeer over ultraslimme AI die de gehele mensheid gaat wegvagen, maar om veel concretere risico’s.
‘Iedereen ziet die gevaren’, zegt Barten. Hij wijst op het recente tragische verhaal van de Amerikaanse tiener die zelfmoord pleegde na intensieve chatsessies met ChatGPT. Over het nieuwe initiatief is Barten hoopvol gestemd: ‘Het gaat niet om een algehele stopzetting, maar om het formuleren van grenzen: welk gebruik van AI vinden we met zijn allen aanvaardbaar? Dat maakt het kansrijker.’
Regeringen moeten volgens de oproep vóór eind 2026 een internationale overeenkomst sluiten over rode lijnen voor AI, inclusief ‘robuuste handhavingsmechanismen’.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant