We bewonderen vaak de menselijke scheppingskracht, tegelijkertijd koesteren we een fascinatie voor het tegendeel: menselijke vernietigingsdrang. Zie de recordaantallen bezoekers die de film Oppenheimer over ‘de vader van de atoombom’ trekt. Allemaal nieuwsgierig hoe een groep wetenschappers onder leiding van theoretisch natuurkundige J. Robert Oppenheimer in de Amerikaanse woestijn een wapen uitvond dat via nucleaire reacties kokende en sissende oerkrachten losmaakte die als paddestoelachtige wolken alles verzwolgen in een vernietigend vuur.
In het eeuwenlange streven de militaire technologie van het vernietigen steeds doelmatiger te maken, was de mensheid in 1945 uitgekomen bij het absolute eindpunt, een bom waarmee zij haar eigen einde kon bewerkstelligen. Huiveringwekkend en tegelijk fascinerend. Die gevoelens roept ook de film op. ‘Oppenheimer (...) brengt de allereerste atoomproef op ongekende, betoverende en beangstigende wijze in beeld’, schreef Bor Beekman, filmchef van de Volkskrant.
Over de auteur
Arie Elshout is journalist en columnist voor de Volkskrant. Eerder was hij correspondent in de VS en Brussel. Columnisten hebben de vrijheid hun mening te geven en hoeven zich niet te houden aan de journalistieke regels voor objectiviteit. Lees hier onze richtlijnen.
Betoverend en beangstigend, huiveringwekkend en fascinerend – die combinatie van tegenstrijdige emoties geldt voor de hele zoektocht naar het ultieme vernietigingswapen. De mens speelde hier een intrigerend maar ook gevaarlijk en zelfs duivels spel met de natuurkrachten en zichzelf. Dit gebeurde op een puur verstandelijke manier door de knapste koppen van hun tijd. Zij wilden Hitler-Duitsland vóór zijn en Japan met de bom dwingen tot capitulatie, om Amerikaanse soldatenlevens te sparen. Valide rationele overwegingen, maar achteraf schrok men van wat men gedaan had.
Na de bommen op Hiroshima en Nagasaki sloeg de twijfel toe bij Oppenheimer. Met de beste bedoelingen had hij zijn wetenschappelijke kennis in dienst gesteld van de politiek. Maar hij had iets in gang gezet dat niet meer ongedaan kon worden gemaakt. Landen ontketenden een kernwapenwedloop die uitmondde in het vermogen de wereld vele malen op te blazen. Dat vrat aan hem.
Oppenheimers gewetensnood is de onze. Want het is als mensheid dat we de wapens hebben geschapen die een einde kunnen maken aan onze beschaving. Dat besef moet velen kwellen in de stilte en het duister van de bioscoopzaal. Het verhaal is bovendien niet af. Met kunstmatige intelligentie, AI in de Engelstalige afkorting, gaan we doodleuk op herhaling.
Opnieuw is er een technologie die wapensystemen kan produceren die hun weerga niet kennen doordat ze zo ‘slim’ zijn dat er bijna geen mens meer aan te pas komt. Opnieuw is er de drang om alles wat technisch mogelijk is ook daadwerkelijk te maken. Opnieuw laat wat uitgevonden wordt zich niet meer ongedaan maken. Opnieuw is er de wedloop om de eerste te willen zijn. Opnieuw worden de nieuwe wapens nodig geacht om tegenstanders af te schrikken en te overtroeven. Opnieuw zwemmen we op een puur verstandelijke manier onder aanvoering van knappe koppen een fuik in die geen weg terug kent.
De oude Henry Kissinger laat niet na te waarschuwen voor steeds dodelijkere en autonomere AI-wapens. Wanneer het vernietigen geautomatiseerd gaat worden, kan het punt worden bereikt dat zelfdenkende gevechtsmachines zich niet meer laten uitzetten en zich tegen onszelf keren, waarschuwt hij in The Economist. In The New York Times zegt Alexander Karp, topman van een bedrijf dat militaire software ontwikkelt, dat het essentieel is dat menselijke operators greep houden op de algoritmen opdat ‘de machine onderworpen blijft aan zijn schepper’.
Volgens Oppenheimer-regisseur Christopher Nolan spreken AI-onderzoekers al van hun ‘Oppenheimer-moment’. Alom wordt opgeroepen tot ‘terughoudendheid’, tot het afspreken van regels en beperkingen. Bij de kernwapens is dat tot nu toe gelukt, met AI kan dat ook. Karp is relaxt. Hij ziet in de eerste reacties op AI veel onbegrip en een ‘ongemakkelijk mengsel van verwondering en angst’ (let op: hier weer die bekende woordcombinatie). Kissinger is er minder gerust op: ‘Het komt misschien zover dat we onszelf vernietigen.’
De Belgische kosmoloog Thomas Hertog sprak pas in Zomergasten over het ontbreken van signalen van ander geavanceerd leven in het heelal. Er moet ergens een obstakel zijn waardoor het er niet is. Voor de mensheid ligt die horde wellicht achter ons en hebben we die genomen. Maar het kan volgens hem ook dat het obstakel nog voor ons ligt. Met de mogelijkheid dat we niet overleven. Zou ons flirten met zelfvernietiging niet dat obstakel kunnen zijn?
Source: Volkskrant