is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Beroepsdeformatie: als ik ergens ‘Al’ (a el) zie staan, veert mijn brein op: ha, kunstmatige intelligentie! Berichten over de Al-Aqsamoskee leiden derhalve meestal tot teleurstelling. Deze week komen kunstmatige intelligentie en Al-Aqsa wel samen, zij het op een andere manier ook weer teleurstellend.
Op X dook een video op waarin de beroemde moskee in Jeruzalem in lichterlaaie staat, waarna uit de vlammen een Joodse tempel verrijst op de heilige plek. Hebreeuws gezang begeleidt de video.
De beelden zijn gemaakt door AI en werden verspreid door extreemrechtse Israëlische kolonisten. Dat de video overduidelijk niet authentiek is, maakt al niet meer uit: de verontwaardiging in de Arabische wereld is groot. Leiders zien de video als bedreigend en als aansporing tot geweld.
Daarmee illustreren de beelden exact waarvoor Barack Obama eerder deze maand waarschuwde. De oud-president, zelf vaak genoeg slachtoffer van zogenoemde deepfakes, vreest terecht dat de stroom nepbeelden alleen maar zal toenemen.
‘En dat betekent dat we ons allemaal opnieuw moeten inzetten om te achterhalen wat waar is en wat niet, wat feiten zijn en wat meningen, om te begrijpen hoe beelden de reptielenkant van ons brein kunnen aanspreken en woede en wrok kunnen voeden in plaats van hoop.’
Woede en wrok: dat is natuurlijk precies waarop de makers van de Al-Aqsamoskee hopen. Met dank aan laagdrempelig AI-gereedschap waarmee iedereen in een handomdraai filmpjes kan maken.
De techbedrijven achter de software gedragen zich lang niet altijd verantwoordelijk. Terwijl Google duidelijke restricties inbouwt bij zijn AI-videotool Veo 2 (‘Het spijt me, maar ik kan geen video maken van een moskee die in brand staat. Ik kan geen beelden genereren die geweld of haatzaaien bevatten’), daar laat OpenAI alle vangrails achterwege.
De videotool van het bedrijf, Sora, die sinds een tijdje ook in Nederland beschikbaar is, vindt alles eigenlijk wel prima. Een hyperrealistische video van een brandende moskee? Tuurlijk: u vraagt, wij draaien. En voilà, Sora levert twee varianten van de gevraagde video.
In vroeger tijden (lees: een jaar of anderhalf terug) ging OpenAI nog prat op al zijn ingebouwde veiligheidsmaatregelen, maar in het huidige politieke klimaat in de Verenigde Staten is er geen enkele reden meer om daaraan vast te houden. Ook het afbeelden van beroemdheden is nu toegestaan.
De woorden van Obama lijken ondertussen uit een ander tijdperk te komen, gewend als we al zijn aan de primitieve en vaak letterlijk onnavolgbare woordsalades van de huidige president.
Ironisch genoeg veroorzaken de beelden van Obama het soort verwarring waarvoor hij juist waarschuwt. In een appgroep waarin ik met anderen ervaringen uitwissel over AI, kwam de video voorbij. ‘Is dit de echte Obama, of AI?’, vraagt iemand. ‘Zou ongelofelijke AI zijn. Heel goed en overtuigend’, zegt een ander.
Het zaadje van de twijfel is gezaaid.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant columns