Sociale media Het platform brengt racistische en extreemrechtse boodschappen onder de aandacht van publiek dat er niet naar op zoek is. Het verdient fors aan de donaties die de extremistische livestreams opleveren.
Op TikTok zijn ook Nederlandse rechts-extremisten actief, onherkenbaar door een rood-wit-blauwe bivakmuts op het hoofd.Screenshot TikTok
TikTok promoot extreemrechtse livestreams onder kijkers die daar niet bewust naar op zoek zijn. Het oorspronkelijk Chinese videoplatform verdient hier aan, want van alle donaties die de livestreamers ontvangen, gaat ongeveer de helft naar TikTok. Dit blijkt uit onderzoek door een internationaal onderzoeksteam onder leiding van mediawetenschappers aan de Hogeschool van Amsterdam.
Ook tijdens de Malieveldrellen van afgelopen zaterdag vergrootte TikTok het bereik van livestreamers die donaties ontvingen terwijl ze verslag deden van het extreemrechtse geweld. Bij de NRC-redactie bekende tiktokkers met enige duizenden of tienduizenden volgers, die filmden op het Malieveld, ontvingen soms meer dan 50.000 ‘likes’ in de vorm van hartjes. Dit wijst er volgens onderzoekers op dat hun livestreams bij honderdduizenden andere gebruikers onder de aandacht werden gebracht.
Wereldwijd zorgen donaties bij livestreams voor dagelijks 10 miljoen dollar omzet, aldus TikTok zelf. Aangezien grofweg de helft van de donaties naar TikTok gaat, zou winst uit donaties volgens wetenschappers jaarlijks miljarden euro’s kunnen bedragen. Dagelijks gaan 130 miljoen mensen ‘live’ op TikTok.
Op YouTube krijgen gebruikers vooral video’s voorgeschoteld op basis van wat zij eerder bekeken. TikTok is veel meer ingericht op ‘engagement’. Wat spectaculair is, wordt ook aangeboden aan wie er niet naar zoekt.
Het internationale onderzoeksteam observeerde op een juli-avond de livestreams van ruim driehonderd Duitse extreemrechtse tiktokkers. Zij werden geïdentificeerd als sympathisant van de extreemrechtse partij AfD, of werden als extreemrechts gekenmerkt omdat ze racistische, of neonazistische content deelden.
De onderzoekers zagen tijdens de livestreams bezoekerspieken ontstaan. „Via de ‘Voor Jou’ en ‘Live’-sectie bleek TikTok nieuwe kijkers naar de streams te brengen Iedere TikTokker ziet deze knoppen in de app”, zegt Pieter van Boheemen, die samenwerkt met de HvA en directeur is van Post-X Society. Deze stichting komt op voor democratische waarden en voerde het onderzoek uit met subsidie van het ministerie van Binnenlandse Zaken.
Veel extreemrechtse livestreamers bleken continu donaties van kijkers te ontvangen. Dit kan variëren van een virtuele roos – één cent waard – tot een ‘Future Journey’ van 250 euro (behalve het geld krijgt de ontvanger hierbij een virtuele reis door een futuristische stad met behulp van filters en effecten). De livestreamers kunnen de gedoneerde TikTok-coins via een ‘exchange’ op hun rekening storten en zo omzetten in euro’s.
Uit het onderzoek bleek ook dat automatische filters die haatdragende uitlatingen tegen moeten gaan, eenvoudig worden omzeild. Expliciete nazistische commentaren en hakenkruizen waren zichtbaar. Ook impliciete verwijzingen glippen er met gemak doorheen. Zoals emoji-combinaties en cijfertaal als ‘4uslander rau3’, of 88, wat staat voor ‘Heil Hitler’.
„Wat er in de streams zelf wordt gezegd blijft vaak ook ongemodereerd. Zo konden mensen met bivakmutsen op zelfs doodsbedreigingen uiten”, zegt Van Boheemen. Op TikTok zijn ook Nederlandse rechts-extremisten actief, onherkenbaar door een rood-wit-blauwe bivakmuts op het hoofd.
Op de vraag of TikTok het geen probleem vindt dat het extra publiek creëert voor extreemrechtse livestreams, laat een woordvoerder via e-mail weten dat het platform geen haatdragende uitlatingen toestaat. „In de eerste vier maanden van dit jaar werden negentien miljoen livestreams afgekapt, een toename met 50 procent ten opzichte van het kwartaal ervoor. Wij zijn vastberaden om de veiligheid op ons platform continu te verbeteren”, aldus de reactie.
Volgens Van Boheemen is sprake van een lacune in de Europese wetgeving. „Politieke advertenties zijn aan strenge regels onderworpen. Zo moet de afzender altijd duidelijk zijn. Maar rond donaties is niets geregeld, waardoor een specifiek gedachtengoed om commerciële redenen gestimuleerd kan worden”, zegt hij.
Zijn onderzoeksteam wijst op nog een risico bij TikTok. Bij de Tweede Kamerverkiezingen van 29 oktober zou zich een ‘Roemenië-scenario’ kunnen voordoen, waarbij Nederlandse tiktokkers vanuit het buitenland worden betaald – zonder dat zij weten dat het geld uit het buitenland komt – om boodschappen te verspreiden en zo de verkiezingen te beïnvloeden.
Eind 2024 werden de Roemeense verkiezingen onverwacht gewonnen door de pro-Russische kandidaat Calin Georgescu. Uit onderzoek van veiligheidsdiensten bleek dat zijn TikTok-filmpjes dankzij manipulatie extra werden gepromoot: twee weken voor de verkiezingen was zo’n 400.000 euro uitgegeven om 25.000 TikTok-accounts te mobiliseren.
TikTok heeft verkiezingsteams die in meerdere landen, waaronder nu in Nederland, de aanloop naar verkiezingen in de gaten houden. Het platform heeft al extremistische content verwijderd, zoals video’s gemaakt met kunstmatige intelligentie, waarin FvD-Tweede Kamerlid Thierry Baudet GroenLinks-leider Jesse Klaver mishandelt.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
De beste ideeën over de planetaire verschuivingen in AI, ecologie en geopolitiek
Source: NRC