Sociale media TikTok en Instagram leven hun eigen regels niet na. De stichting Post-X Society rapporteerde meer dan honderd posts met onder meer nazistische boodschappen, maar de sociale media zagen geen regelovertredingen.
Illustratief beeld van een melding TikTok geen schendingen geconstateerd. Credit: NRC
Dat er op TikTok gewelddadige content te vinden is, zal niemand meer verbazen. Maar dat het videoplatform – dat zijn gebruikers een „inclusieve omgeving” belooft – filmpjes vol geweld tegen vluchtelingen en verheerlijking van Hitler op grote schaal goedkeurt nadat ze zijn gerapporteerd? Dat had mediaonderzoeker Pieter van Boheemen toch niet verwacht.
Van Boheemen is directeur van Post-X Society, een stichting die opkomt voor democratische waarden. In aanloop naar de gemeenteraadsverkiezingen van 18 maart onderzoekt hij polariserende content op sociale media. Bij wijze van proef, in overleg met NRC, rapporteerde hij honderd filmpjes met een neonazistische inhoud, haat tegen vluchtelingen en aansporingen tot geweld via de ‘report-knop’ van TikTok, dat in Nederland zo’n vijf miljoen vooral jonge gebruikers telt. Het is de eerste keer dat zulk onderzoek naar de kwaliteit van de moderatie in Nederland is gedaan.
Van Boheemen rapporteerde AI-beelden van vluchtelingen die in brand worden gestoken, smeekbedes bij afbeeldingen van Adolf Hitler om terug te keren en aansporingen tot geweld tegen politici. Ook is er een vermomde jongen die oproept om te gaan „vechten” tegen de overheid, een filmpje van ‘FVDNL_fan’ waarin tegen de partijleiders Rob Jetten (D66) en Henri Bontenbal (CDA) wordt gezegd dat ze zich moeten overgeven, omdat ze anders worden „vermoord”. Daarnaast zijn er tientallen filmpjes waarin de Holocaust wordt ontkend, Hitler wordt verheerlijkt en Hitlergroeten worden uitgebracht. Deze laatste filmpjes zijn van accounts met namen als ‘Dutch SS’, ‘Der Fuhrer 1938’ en ‘Allwaysthejews’.
Tot zijn verbazing kreeg Van Boheemen in 97 gevallen het bericht terug van TikTok dat de video was beoordeeld en er vastgesteld was „dat deze onze communityrichtlijnen niet schendt”. Terwijl het videoplatform haar gebruikers voorhoudt alleen al voor het Nederlandse taalgebied honderd moderators in dienst te hebben die gebruikmaken van ‘geavanceerde moderatietechnieken’.
TikTok heeft „geen schendingen geconstateerd” bij beelden waarin de Hitlergroet wordt gedaan.
Logica is er in de beoordelingen niet te bekennen. Een filmpje met de tekst ‘jill kews’ (een anagram van kill jews) werd verwijderd, maar een filmpje waarop een keel doorsnijdend gebaar werd gemaakt van het account ‘Juice Hater 88’ mocht blijven staan. „Terwijl in moderatiekringen algemeen bekend is dat ‘juice’ staat voor ‘jews’ en ’88’ voor ‘Heil Hitler’”, zegt Van Boheemen.
Dat de moderators dergelijke terminologie wel kennen, blijkt wel uit het feit dat een van de andere twee verwijderde filmpjes een groet richting een zonnerad toonde. Het zonnerad wordt door neonazi’s gebruikt als symbool voor raciale superioriteit. Het andere verwijderde filmpje toonde een nazi-munt.
Ook in beelden van vluchtelingen in brand ziet TikTok geen regelovertreding.
„Hoe vreselijk het neonazisme ook is, het bestrijden daarvan is niet mijn hoofddoel”, zegt Van Boheemen. „Ik wil vooral aantonen dat platformen hun eigen beleid niet handhaven en dat het systeem van meldingen nauwelijks werkt. Hun filters blijken ook weinig voor te stellen als zelfs een woord als ‘Führer’ niet wordt opgepikt. Al deze video’s werden mij aanbevolen door te scrollen in de feed. Dus ook in het aanbevelingsalgoritme zit kennelijk geen filter”, zegt Van Boheemen.
Op de vraag hoe het mogelijk is dat filmpjes zoals die van Hitler bij de Eiffeltoren van ‘Dutch SS’, met de tekst erbij dat de wereld hem nodig heeft, ook na melding niet worden verwijderd, geeft een woordvoerder van TikTok via e-mail alleen een algemeen antwoord. „We verwijderen content en accounts die onze strenge regels tegen haatzaaiende ideologieën overtreden. Van de content die we tussen juli 2025 en september 2025 hebben verwijderd, werd 99,3% verwijderd voordat het bij ons werd gemeld”, aldus de reactie.
Ook op Instagram zocht Van Boheemen naar haatdragende content. Daar vond hij minder makkelijk extreme filmpjes, maar ging het in de moderatie ook mis. Van Boheemen rapporteerde zeven posts met een neonazistische content. Daarvan was er na zes dagen één beoordeeld en die werd goedgekeurd. Het gaat om een filmpje van een ufo met een hakenkruis erop, een hoofdwiegende Heinrich Himmler erin en een dansende Adolf Hitler.
„Er is vastgesteld dat de content niet in strijd is met onze communityrichtijnen inzake haatdragend taalgebruik of haatsymbolen”, aldus de reactie door de moderatie van Instagram, dat vorig jaar in Nederland zo’n 8,2 miljoen gebruikers telde. Pas nadat NRC het filmpje bij een woordvoerder van moederbedrijf Meta onder de aandacht bracht, werd het verwijderd. „Deze content hoort niet thuis op onze platforms”, aldus een woordvoerder van Meta.
Een week nadat ze gerapporteerd waren, werden de andere zes posts beoordeeld. Zoals die van een foto van Hitler met de tekst „the Austrian painter just wanted peace for us all” („de Oostenrijkse schilder wilde gewoon vrede voor ons allen”). Allemaal „niet in strijd met de communityrichtlijnen”, zo oordeelde het moderatieteam van Instagram.
„De bevindingen van dit onderzoek zijn buitengewoon verontrustend”, zegt José van Dijck, universiteitshoogleraar Media en digitale samenleving aan de Universiteit Utrecht. „Hieruit blijkt maar weer eens dat de grote sociale mediaplatforms moderatie niet langer serieus nemen en niet aan de Europese wetgeving voldoen. Gebruikers wil ik aanbevelen: niet posten, niet lezen. Laat TikTok en Instagram gewoon links liggen. Dat is gezonder voor jezelf en beter voor de samenleving”, zegt Van Dijck.
Het toezicht op de grote platforms is belegd bij de Europese Commissie in Brussel. Volgens Europarlementariër Kim van Sparrentak (GroenLinks-PvdA) loopt er onderzoek door de Commissie naar TikTok en Meta, maar de resultaten laten op zich wachten. „De problemen met de moderatie blijken toch weer erger dan gedacht”, zegt Van Sparrentak. „Bij zulke grote platforms met zo veel bereik mag dit niet misgaan. Ik ga weer vragen waarom de Europese regels niet beter en sneller worden gehandhaafd”, zegt Van Sparrentak.
De Europese Commissie oordeelde vorige week wel dat TikTok zo verslavend is dat het de Europese regels overtreedt. Het algoritme moedigt gebruikers aan om eindeloos te blijven scrollen en pushberichten proberen mensen terug naar hun telefoon te lokken als ze die even hebben weggelegd. TikTok riskeert een miljardenboete en liet weten de voorlopige conclusies van het Brusselse onderzoek te zullen aanvechten.
Europaredacteuren praten je bij over de belangrijkste ontwikkelingen in de EU