Kunstmatige intelligentie Als we alles op z’n beloop laten, zijn de risico’s van AI niet in te schatten, schrijft Frans Timmermans. Laten we een fundamenteel beginsel uit verantwoordelijke politiek hanteren: het voorzorgsbeginsel.
De film AI, die Steven Spielberg begin deze eeuw maakte, was een tranentrekker over een robot die een echt jongetje wilde zijn. Pinokkio, maar dan niet van hout en niet gebaseerd op tovenarij, maar op de modernste technologie. Een poging te verbeelden waartoe AI zou kunnen leiden.
Frans Timmermans is oud-eurocommissaris en oud-fractievoorzitter van GroenLinks-PvdA (nu PRO).
Een kwarteeuw later lijkt het risico eerder dat de technologie mensen richting machines duwt, in plaats van omgekeerd. De smartphone, waarmee we versmolten lijken te zijn (en waarop ik tijdens een congres ook dit zit te tikken), bepaalt in toenemende mate hoe we de wereld zien. De algoritmes die dit wereldbeeld invullen zijn bedoeld om ons te geven wat we vragen zodat we kopen wat ze geven. Het is een extreme vorm van zelfbevestiging die kritisch denken ondermijnt en die uiteindelijk ons vermogen tot empathie zal slopen.
Mensen zonder empathisch vermogen gaan steeds meer op machines lijken. Door te doen wat die machines voorstellen, vullen wij de zakken van de paar mensen die deze machines maken en aansturen. En dat zijn mensen die democratie maar onzin vinden en menen dat de wereld er echt van zou opknappen als zij met hun machines de baas zouden zijn. Lees het maar na, in het recente Palantir-manifest, en denk aan de uitspraken van grote technologieondernemers als Peter Thiel en Elon Musk.
De AI-wedloop tussen de VS en China roept herinneringen op aan de wapenwedloop in de Koude Oorlog. Toen kwamen de VS en de Sovjet-Unie nog net op tijd voldoende bij zinnen om een catastrofe te voorkomen en via multilaterale onderhandelingen wapenbeheersing in gang te zetten. Een dergelijk besef ontbreekt totaal bij AI. Deze week hoorde ik ook weer Maga-Amerikanen op een congres in Athene roepen dat er maar één winnaar kan zijn, de VS of China, alsof we in een aflevering van Highlander terecht zijn gekomen.
Ondertussen dreigt AI op hol te slaan. Zelfs in Silicon Valley gaan er stemmen op die zeggen dat de technologie letterlijk onnavolgbaar en wellicht onbeheersbaar wordt. Ieder waarschuwend woord, ieder pleidooi tot vertraging uit voorzorg, wordt weggewoven uit angst voor een Chinese voorsprong. Inmiddels wordt er jaarlijks alleen al in de VS meer dan 1.000 miljard dollar in AI geïnvesteerd en de hausse op de Amerikaanse beurs is bijna geheel hierop terug te voeren.
De potentie van AI gaat ons voorstellingsvermogen te boven. Wel valt nu al vast te stellen dat het een geweldige impuls kan geven aan de ontwikkeling van nieuwe medicijnen en medische behandelingen. Een vroege diagnose van ernstige ziekten op celniveau kan misschien wel miljoenen levens redden, de razendsnelle ontwikkeling van nieuwe vaccins kan bij een volgende pandemie de wereld behoeden voor massagraven en onnoemelijke economische schade. De verfijnde modulatie van onvoorstelbaar veel data kan de energietransitie versnellen en duurzame energie veel efficiënter en vooral betrouwbaarder maken.
Het kan ons ook helpen biodiversiteitsverlies en daarmee samenhangende grote gezondheidsrisico’s op tijd in kaart te brengen en te bestrijden, het kan ons helpen misoogsten en voedselnoden te voorkomen. En iedereen die straks van A naar B moet, zal zich via transportmiddelen zonder menselijke bediening veel veiliger kunnen verplaatsen. In de toekomst zal zelf rijden, behalve dan op de fiets natuurlijk, echt een grote uitzondering zijn.
De risico’s en het gevaar voor mensen nemen exponentieel af en dat is bij deze toepassingen een zegen. Bij militaire toepassingen deels ook, maar die kunnen ook een vloek zijn als de drempel naar geweld wordt verlaagd, omdatmilitairen geen of minder risico lopen dan tegenstanders met minder autonome wapensystemen. Vanaf grote afstand op een veilige plek drones en andere onbemande systemen bedienen, is iets anders dan de vijand direct in de ogen kijken. Nog daargelaten dat er inmiddels systemen op het slagveld actief zijn die een enkel een opdracht meekrijgen, zoals ontmijning of het maken van krijgsgevangenen, en vervolgens geheel autonoom plannen maken om die opdracht te voltooien – soms met verbluffende resultaten.
Iedere industriële revolutie heeft nieuwe machines en technologieën opgeleverd die het de mens makkelijker maken en die ons op één plek vervangen zodat wij op andere plekken fijner, minder zwaar en beter betaald werk kunnen doen. Of veel mínder hoeven te werken. Het is een open vraag of dat met AI per definitie ook zo zal zijn. De invloed van AI is in potentie groter en zal ook sneller zijn beslag krijgen dan eerder technologische sprongen voorwaarts. Daarmee kan AI tot zeer grote economische en sociale ongelijkheid leiden die spanningen binnen samenlevingen en tussen landen en continenten al snel op de spits kunnen drijven.
Smartphones, het internet en sociale media dreigen van de moderne mens een Narcissus te maken: constant op het schermpje starend naar ons spiegelbeeld zonder te weten dat we alleen maar onszelf in eindeloos verschillende gedaanten voorgeschoteld krijgen door steeds slimmer wordende algoritmen. We worden een echokamer van gelijkvormigheid ingezogen die ons steeds ongevoeliger en op den duur wantrouwig en angstig maakt voor iedereen die anders is.
Onze inventiviteit stompt af, onze nieuwsgierigheid gaat verloren en ons vermogen tot empathie verdwijnt geheel. Door algoritmen tot de intiemste delen van ons leven toe te laten, dreigen we intermenselijke intimiteit te verliezen. Inmiddels zijn er voorbeelden te over van de ellende die kan ontstaan als met name kwetsbare kinderen een diepe emotionele band opbouwen met algoritmen die de plaats van persoonlijke relaties hebben ingenomen.
De erosie van solidariteit en maatschappelijke samenhang is een direct gevolg van het verlies van vertrouwen in een goede toekomst. Als achteruitgangsdenken domineert, valt de bereidheid tot delen ten prooi aan de wens te behouden wat je hebt. De zorgen van de ander zullen jou dan een zorg zijn. De ander wordt een bedreiging en een gevaar dat op afstand moet worden gehouden. Deze situatie wordt door de internetbubbels waarin we zitten verergerd, en zou door AI nog sterker kunnen toenemen.
Maar het omgekeerde moet ook mogelijk zijn. Algoritmen zijn geen onbeheersbaar natuurverschijnsel, de multimiljardairs uit Silicon Valley geen onaantastbare goden, de AI-wapenwedloop geen onomkeerbaar proces.
Als we alles op z’n beloop laten, zijn de risico’s niet in te schatten, maar dat ze groot zijn, staat wel vast. Daarom moet een fundamenteel beginsel uit verantwoordelijke politiek hier leidend zijn: het voorzorgsbeginsel. Liefst op mondiaal niveau begrenzen, sturen en een proces van ‘wapenbeheersing’ in gang zetten met vertrouwenwekkende maatregelen, zoals tijdens de Koude Oorlog, maar nu met het doel de voordelen van AI met de hele wereld te delen, en de nadelen ook met de hele wereld gezamenlijk onder controle te krijgen.
Veel van de voor de ontwikkeling van AI noodzakelijke grondstoffen en energiebronnen bevinden zich buiten de VS en China. Een puur transactionele benadering, zoals nu zowel de VS als China hanteren, schiet tekort in een wereld die niet meer bipolair zal worden. Het kan een rommeltje opleveren, maar ook de herleving van een op multilaterale benaderingen gebaseerde wereldorde. Daaraan werken is zeker de moeite waard, als we tenminste nog enige empathie met toekomstige generaties weten op te brengen.