Een nieuwe vorm van onlinehaat verspreidt zich op sociale media. Onder het label ‘satire’ delen kanalen AI-filmpjes waarin politici als premier Rob Jetten afgetuigd, gemarteld of zelfs omgebracht worden. Daarmee wordt vijanddenken bevestigd en geweld gelegitimeerd, waarschuwen experts.
‘Ik heb écht wel grenzen’, zegt de maker achter het ‘satirische AI-kanaal’ Het Snorretje, na veertig minuten aan de telefoon. ‘Neem dat filmpje waarin Trump Jetten voor de grap uit een helikopter gooit. Je ziet Jetten niet neerkomen. Je ziet niet dat zijn lichaam uit elkaar spat. Dat zou gewoon veel te ver gaan.’
De man – een jonge vader met een fulltimebaan in de gehandicaptenzorg – beantwoordt het telefoontje van de Volkskrant met tegenzin. Hij is ‘voorzichtig geworden met media’ omdat de aandacht voor zijn kanaal ‘niet altijd even positief was’. Hij heeft ‘geen zin in problemen’, en wil alleen praten ‘als mijn naam niet wordt genoemd’.
Sinds de beëdiging van het kabinet op 23 februari plaatste Het Snorretje 22 gewelddadige video’s met Rob Jetten in de hoofdrol, gemaakt met behulp van voor iedereen toegankelijke AI-software. In de filmpjes wordt de minister-president meermaals in elkaar geslagen, opgeblazen met explosieven, kaalgeschoren, gedwangvoederd met benzine en whisky, bedolven onder asielzoekers, aangevallen door vogels en honden, loopt hij vogelgriep op en zinkt hij vastgebonden aan bultrug Timmy naar de zeebodem. Steeds keren dezelfde soort reacties van gebruikers terug: ‘Was het maar waar’, en ‘jammer dat het AI is’.
Het is een ontwikkeling die leidt tot ongemak bij wetenschappers en maatschappelijke organisaties. Want hoever kun je gaan met het maken van gewelddadige AI-filmpjes van politici, die door de snelle technologische ontwikkelingen steeds realistischer ogen? Welke uitwerking hebben ze op kijkers? En wie grijpt in wanneer het te ver gaat, als de grote techplatforms het zelf niet doen?
Ook andere grappig bedoelde AI-kanalen maken video’s met politici in de hoofdrol, maar de mate van geweld bij Het Snorretje is nieuw. ‘Dit is behoorlijk verontrustend, ik heb zoiets nooit eerder gezien’, zegt Michal Klincewicz, een AI-onderzoeker van de Universiteit Tilburg die op verzoek van de Volkskrant de filmpjes bekeek. Hij ziet kenmerken van ‘slopaganda’, een term die hij vorig jaar muntte en die verwijst naar de troep (‘slop’) die iedereen tegenwoordig snel, makkelijk en goedkoop met AI kan produceren en verspreiden, met mogelijk grote invloed op het politieke debat. ‘Door steeds opnieuw negatieve emoties over politici op te roepen en die te koppelen aan expliciete gewelddadige beelden, wordt het brein op een krachtige manier beïnvloed. Ik zie dit als een systematische poging om het vertrouwen in politici te ondermijnen.’
‘Deze filmpjes bevestigen mensen in hun vijanddenken over bepaalde politici’, zegt Michael Hameleers, universitair hoofddocent politieke communicatie aan de Universiteit van Amsterdam en gespecialiseerd in desinformatie en deepfakes. ‘Ze dragen bij aan de legitimatie van geweld.’
Op 24 mei konden de opgeteld meer dan driehonderdduizend volgers van Het Snorretje op Facebook, Instagram en TikTok zien hoe Jetten in elkaar wordt geslagen door kickbokser Rico Verhoeven. Zeven keer stompt Verhoeven Jetten in zijn gezicht, voor hij in de ring in elkaar zakt. In het volgende shot ligt de premier bewusteloos, met een gezicht vol blauwe plekken, in een ziekenhuisbed. Zijn verloofde zit er huilend naast, in een slotscène die dankzij de nieuwste AI-software nauwelijks van echt is te onderscheiden.
Pieter van Boheemen, directeur van Post-X Society, een stichting die de democratie wil versterken, zag de video omdat die werd aanbevolen door zijn TikTokalgoritme. Vervolgens las hij de reacties – honderden, verdeeld over drie platforms – waarin niet alleen het geweld wordt toegejuicht, maar Jetten ook expliciet wordt doodgewenst. ‘Nek breken’, schrijft TikTokgebruiker Markvennentje. ‘Trap dood’, luidt de reactie van Marco.
De video’s – ‘satire’, aldus de maker – zijn volgens Van Boheemen niet los te zien van de opruiende, bedreigende en geweldsverheerlijkende reacties eronder. ‘Als je ziet dat mensen die reageren zo losgaan, heb je als maker een verantwoordelijkheid. En als platform óók.’
Op 6 juni maakte Van Boheemen melding van de video met Verhoeven en Jetten bij TikTok en Instagram vanwege overtreding van de huisregels. ‘We verwachten dat mensen de waardigheid van anderen respecteren en anderen niet lastigvallen of vernederen’, schrijft Meta, het moederbedrijf van Instagram en Facebook, op de website. TikTok belooft gebruikers ‘een veilige en positieve experience’.
Desondanks kreeg Van Boheemen binnen een half uur van TikTok te horen dat er geen schendingen waren geconstateerd. Een tweede melding leverde dezelfde reactie op. Ook Instagram zag geen bezwaren en liet Van Boheemen weten dat de video niet in strijd is met de richtlijnen van Meta. Begin 2025 maakte CEO Mark Zuckerberg bekend dat het bedrijf de ‘doorgeschoten’ moderatie terug zou schroeven, ‘fundamentele toewijding aan vrije meningsuiting’ stond vanaf dat moment voorop.
Na vragen van de Volkskrant verwijderde TikTok het account alsnog vanwege overtreding van de huisregels. Waarom dat pas gebeurde na mediavragen, en waarom het platform eerder tot tweemaal toe oordeelde dat de content wel geoorloofd was, vertelt het bedrijf niet. Meta heeft niet inhoudelijk gereageerd op vragen. Het account en de gewelddadige filmpjes bleven gewoon zichtbaar.
‘Ik zie het niet als onze taak om voortdurend onlinehaat te bestrijden, maar ik wil wel systeemfouten aantonen’, zegt Van Boheemen. Zo’n systeemfout is volgens hem dat de grote platforms niet modereren en structureel de eigen huisregels niet naleven, wat in strijd is met Europese wetgeving. In aanloop naar de gemeenteraadsverkiezingen in maart rapporteerde hij om die reden honderd filmpjes met nazi-propaganda, vluchtelingenhaat en aansporingen tot geweld bij TikTok. In 97 gevallen stelde het platform vast dat de richtlijnen niet waren geschonden.
Onder die omstandigheden, met steeds minder restricties van de grote techbedrijven, kon Het Snorretje de afgelopen anderhalf jaar uitgroeien tot een kanaal met honderdduizenden volgers – groter dan andere kanalen met AI-humor, en ook gewelddadiger. ‘Het was vroeger gewoon veel strenger op sociale media, constateert de zorgmedewerker achter Het Snorretje zelf. Hij zegt dat er nog nooit een van zijn video’s door Meta of TikTok is verwijderd.
Naast het geweld speelt in de video’s van Het Snorretje ook regelmatig de geaardheid van Jetten een hoofdrol: dertien keer, sinds de beëdiging van het kabinet. De premier likt en zoent ongevraagd buitenlandse staatshoofden, droomt kwijlend over zwoel dansende spelers van het Nederlands elftal, verlekkert zich aan halfnaakte asielzoekers, draagt een dildohelm en sabbelt aan waterijsjes in de vorm van vibrators. Ook zijn verloofde figureert in de video’s. Het leidt tot een stroom aan homofobe reacties, over een ‘ziekte die we gaan uitroeien’ en de premier die ‘kapotgeneukt’ moet worden tot hij ‘doodbloed (sic), vies kutventje’.
Voor veel mensen die reageren, lijkt het niets uit te maken dat de video’s nep zijn. Dat sluit aan bij onderzoek naar de effecten van AI-filmpjes, zegt Hameleers. Negatieve video’s over politici leiden tot een ongunstiger oordeel over hen, zelfs als kijkers weten dat de beelden nep zijn. Dit effect is veel sterker bij AI-video’s dan bij tekst die desinformatie bevat. ‘Mensen weten dat het niet echt is. Maar tegelijkertijd zeggen ze: het laat wel zien waar hij toe in staat is.’
De maker van de Snorretje-video’s zegt zelf dat hij maar één criterium heeft: het moet goed vallen bij zijn publiek. Hij zegt niet politiek gemotiveerd te zijn. ‘Rob Jetten slaat gewoon aan. Ik pak de stemming in het land en daar maak ik een grap over. De laatste tijd zijn asielzoekers een dingetje, dus dat zie je terug op mijn kanaal.’
Zo is in een video te zien hoe asielzoekers vernielend door de Efteling trekken en van grote hoogte uit de Baron vallen. In andere filmpjes stelen asielzoekers of slaan ze ouderen in elkaar. Ook plaatste het account een video waarin een vrouw in een nikab wordt aangezien voor vuilniszak en in een vuilniswagen wordt gegooid.
‘Het zijn grappen, het is satire, meer niet’, zegt de maker, die South Park en Lucky TV als zijn voorbeelden ziet. ‘Ik wil niets uitlokken ofzo. Het komt niet voort uit racisme of homohaat. Ik heb respect voor ieder mens. Als mensen het niet leuk vinden om in mijn video’s voor te komen, kunnen ze een berichtje sturen, dan verwijder ik ze.’
Veel haatreacties onder zijn posts haalt hij bovendien zelf weg, zegt hij. ‘Maar ik kan niet alles in de gaten houden. Meta doet helemaal niks, en het zijn duizenden reacties per dag. Is het mijn verantwoordelijkheid dat mensen hersenloze dingen op het internet gooien?’
De filmpjes van Het Snorretje zijn eerder haatfantasieën dan satire, zegt onderzoeker Hameleers. ‘Het label ‘satire’ wordt strategisch ingezet. Het is verhullend, een schild om je achter te verschuilen.’
De video’s blijven waarschijnlijk grotendeels binnen de grenzen van het strafrecht, oordeelt Charlotte Meindersma, als jurist gespecialiseerd in AI. ‘Sommige reacties gaan zeker de strafbare grens over, maar de video’s zelf zijn meestal niet te kwalificeren als bedreiging of haatzaaien.’ Wel kan Jetten een civiele rechtszaak aanspannen als hij vindt dat zijn eer en goede naam worden aangetast. Meindersma: ‘Dat lijkt me hier wel kansrijk.’
Premier Jetten laat via zijn woordvoerder weten dat hij regelmatig aangifte doet van bedreigingen op sociale media. ‘Verwerpelijk, en soms zelfs strafbaar gedrag online mogen we nooit normaal gaan vinden. Dat geldt ook voor deze video’s.’
Het Snorretje verwijdert enkele dagen na het gesprek met de Volkskrant een aantal video’s met de minister-president van zijn kanaal. ‘Ik ben erover gaan nadenken’, verklaart hij telefonisch. ‘Ik wil niet dat dit aan Het Snorretje blijft kleven. Ik sta voor brede humor.’
Geselecteerd door de redactie
Source: Volkskrant