Het is goed dat het populaire sociale medium beter gaat controleren op de leeftijden van kinderen. Maar op het gebied van privacy en discriminatie kleven er nogal wat risico’s aan.
De Chinese app TikTok gaat eindelijk de regels serieus nemen en accounts van kinderen onder de 13 opsporen en verwijderen. Daarvoor begint het bedrijf met een nieuwe vorm van leeftijdscontrole. Op basis van profielinformatie, video’s die gebruikers plaatsen en gedragssignalen voorspelt TikTok of het om (te) jonge kinderen gaat. Goed nieuws, zo lijkt het, maar er zitten allerlei bezwaren aan deze aanpak.
TikTok is uitgegroeid tot een van de populairste apps ter wereld. De app biedt korte, creatieve video’s die veel kinderen aanspreken. Volgens onderzoek van het Jeugdjournaal zit 86 procent van de Nederlandse kinderen dagelijks op TikTok. Maar liefst 7 van de 10 kinderen geeft zelf aan dat ze de app best verslavend vinden. Ze zitten vaak veel langer op TikTok dan ze eigenlijk zouden willen.
Naast verslavingsrisico’s zijn er allerlei veiligheidsrisico’s. Er zijn zorgen over misinformatie, nepnieuws en haatzaaiende video’s. Ook zijn er soms video’s die gevaarlijk gedrag aanmoedigen. Zo was er in 2021 The Blackout Challenge, een wurgspel waarbij kinderen elkaars keel dichtknijpen.
Het bedrijf zorgt bovendien voor veel groepsdruk. In 2020 kwam naar buiten dat TikTok filmpjes tegenhoudt van gebruikers die gezien worden als lelijk, dik, arm of gehandicapt om de app ‘aantrekkelijk’ te houden voor nieuwe gebruikers. Als op TikTok alleen knappe, succesvolle mensen te zien zijn, kan dat een vertekend beeld geven van mens en maatschappij, zeker voor kinderen. Het kan leiden tot pesten, angsten en onzekerheden.
Over de auteur
Bart Custers is hoogleraar IT-recht aan de Universiteit Leiden.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Op TikTok zitten ook veel kinderen die zelfs jonger zijn dan 13 jaar, een kwetsbare groep. Het platform heeft de wettelijke plicht op leeftijd te controleren, maar als kinderen een account willen aanmaken, vertellen ze natuurlijk niet eerlijk hun leeftijd. Daarom heeft TikTok een nieuwe aanpak bedacht. Door leeftijdprofilering op basis van gezichtsherkenning en gedrag wordt ingeschat wie geweerd moet worden. Dat kunnen kinderen niet zo gemakkelijk verbergen of omzeilen. Er zijn echter vier problemen met deze nieuwe leeftijdscontrole.
Ten eerste is voor goede leeftijdprofilering veel privacygevoelige informatie nodig uit de gebruikersprofielen. TikTok heeft geen goede reputatie op dit vlak. In 2019 kreeg het sociale medium al miljoenenboetes voor privacyschending van kinderen door het verzamelen van persoonlijke gegevens. Bovendien zijn er zorgen dat de Chinese overheid bij de gegevens kan.
Ten tweede moet TikTok, om goed onderscheid te kunnen maken tussen 13-minners en 13-plussers, ook gegevens van kinderen onder de 13 verwerken. Immers, als je niet weet waarin deze twee groepen van elkaar verschillen, kun je ze ook niet goed onderscheiden. Het ironische is dus dat TikTok veel gegevens van de meest kwetsbare kinderen moet verwerken om ze vervolgens van het platform te kunnen weren. Juridisch mag dat alleen met toestemming van ouders, maar het is onwaarschijnlijk dat die hiermee instemmen.
Ten derde hebben alle vormen van profilering foutmarges. Het kan dus gebeuren dat 13-minners toch worden toegelaten en 13-plussers onterecht worden geweerd. De nauwkeurigheid kan weliswaar worden verhoogd door meer data te verzamelen, maar dat gaat weer ten koste van privacy.
Ten vierde zal deze aanpak voor bepaalde groepen kinderen discriminerend uitpakken. Fysieke leeftijd is een helder criterium, maar kinderen ontwikkelen zich sociaal en mentaal op verschillende snelheden. Zulke verschillen kunnen nog groter zijn bij kwetsbare groepen. Bij neurodivergente kinderen (denk aan ADHD, dyslexie of autisme) kan het gedrag dat wordt geprofileerd sterk afwijken van de fysieke leeftijd. Dan kunnen 13-plussers systematisch te jong worden ingeschat en geweerd. Voor sommige kwetsbare kinderen is dat misschien een goede zaak, maar het laat geen ruimte voor maatwerk (bijvoorbeeld oefenen onder toezicht van een ouder of begeleider), omdat TikTok hierover beslist.
Het is goed dat TikTok beter controleert op de leeftijden van kinderen. Gezien de verslavings- en veiligheidsrisico’s van de app verdienen kinderen extra bescherming. Echter, de leeftijdprofilering die het platform voor ogen heeft, heeft zo haar eigen risico’s op het gebied van privacy en discriminatie. We moeten er dus geen wonderen van verwachten.
TikTok zou er goed aan doen niet te zwaar te leunen op de technologie en ruimte voor maatwerk te laten. Daarnaast zou het bedrijf natuurlijk ook gewoon meer werk kunnen maken van de onderliggende risico’s. Dit kan door nepnieuws en misinformatie te weren, gegevens beter af te schermen en de app minder verslavend te maken.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant