Deepfake In een video zag gynaecoloog Annemiek Nap zichzelf vertellen over een olie die hormonen in balans kan brengen en van alles in het lichaam kan zuiveren. „Is het logisch dat een gynaecoloog iets zegt over een supplement om je bloed te zuiveren? Gebruik je verstand.”
Gynaecoloog Annemiek Nap: „Uiteindelijk was ik vooral bezorgd dat de patiënten door dat filmpje supplementen zouden nemen die niet goed voor hen zijn.”
Filmpjes maken is niet iets wat bij gynaecoloog Annemiek Nap past. Toch stuitte ze begin dit jaar op een TikTok-video waarin ze zichzelf een voedingssupplement zag aanprijzen. Ze hoort zichzelf praten over een olie die hormonen weer in balans kan brengen, de lever kan zuiveren „en ook uw hersenen en hart”.
Ze was erachter gekomen doordat een patiënt van het RadboudUMC het ziekenhuis had gebeld: „Hoezo maken jullie dokters reclame voor dingen, dat is toch vreemd?” Dat is niet de bedoeling, had het Nijmeegse ziekenhuis geantwoord. Maar de beelden liegen niet: Nap staat in haar witte doktersjas, strakke blik in de camera, en praat onmiskenbaar met haar eigen stem. Wat wel vreemd is: de woorden uit Naps mond lopen niet synchroon met de bewegingen die haar mond maken.
Nap weet meteen: dit ben ik niet. „Ik dacht: dit is niet terecht, hier herken ik mezelf niet in”, zegt ze daarover. „Ik praat alleen als ik weet dat ik ergens veel van af weet, als ik betrouwbare informatie kan geven. Ik ben gynaecoloog en hoogleraar voorplantingskunde — ik weet weinig over voedingssupplementen.”
In mei 2020 is Nederland net overgeschakeld naar een ‘intelligente lockdown’. Veel energie gaat naar benauwde coronapatiënten op volgestroomde intensive cares, andere vormen van zorg delven het onderspit. Zo ook de fertiliteitszorg. „Dat vonden we aanvankelijk als hulpverleners best een goed idee”, vertelt Nap, „maar na een tijdje realiseerden we ons dat we fertiliteitszorg ook tijdens coronatijd belangrijk vonden”. Maar hoe breng je mensen die een kinderwens hebben ervan op de hoogte dat ze ook tijdens de coronapandemie bij de gynaecoloog langs kunnen gaan?
Dus kwam er een filmpje, dat ruim vijfenhalf jaar na publicatie op YouTube nog geen vierhonderd keer is bekeken. Toch verscheen het op de radar van mensen die voedingssupplementen van een groep Vietnamese e-commerce-ondernemers verkopen. Zij maakten er met behulp van kunstmatige intelligentie een zogeheten medische deepfake van: een door AI gemaakte video waarin artsen misleidende gezondheidsclaims doen, of bepaalde medicijnen of supplementen aanprijzen.
Medische misinformatie is een groeiend probleem. In 2024 bleek uit een enquête van artsenfederatie KNMG en de NOS al dat de helft van de bijna zevenhonderd ondervraagde artsen er wekelijks mee te maken krijgt. Kunstmatige intelligentie geeft hier een nieuwe dimensie aan. Met AI kunnen bedrijven hun reclame in de mond leggen van mensen die we juist moeten kunnen vertrouwen: artsen in witte jassen. In Nederland ondervonden eerder ook al prominente artsen als intensivist Diederik Gommers en neuropsycholoog Erik Scherder dat. „Mijn reputatie wordt te grabbel gegooid”, zei Gommers daarover tegen het AD. „Het wordt steeds gekker, omdat de makers merken dat ze ermee wegkomen.”
Uit onderzoek van Pointer bleek afgelopen december dat één bedrijf achter zeker veertig Nederlandse gevallen van zulke deepfakes zit: een groep Vietnamese ondernemers van de Pati Group. Via een affiliatieprogramma sporen zij anderen aan om handelspartner te worden en tegen een vergoeding via TikTok zelf supplementen te verkopen, schrijft Pointer. Het bedrijf in kwestie zegt dat het hierdoor geen zicht heeft op het promotiemateriaal dat handelspartners creëren.
Het duurde een paar weken voordat TikTok de deepfake offline had gehaald, vertelt Nap. „In het begin was ik bang dat mensen verontwaardigd naar me toe zouden komen: verkoop jij nou voedingssupplementen? Dat is gelukkig niet gebeurd. Ik voelde ook woede: iemand kan dus gewoon jouw stem, gezicht en lijf gebruiken voor zoiets als dit. Maar uiteindelijk was ik vooral bezorgd dat de patiënten door dat filmpje supplementen zouden nemen die niet goed voor hen zijn.”
KNMG zegt zich „grote zorgen” te maken „over het toenemende aantal deepfakes” op sociale media. „Het schaadt het vertrouwen in artsen en kan aanzetten tot risicovol gedrag met directe gevolgen voor hun gezondheid”, schrijft de beroepsgroep in reactie op vragen. „Deze ontwikkeling ondermijnt daarmee niet alleen de individuele arts, maar ook het vertrouwen in de medische beroepsgroep als geheel.”
Artsen hebben afgelopen jaren sociale media omarmd om medische misinformatie tegen te gaan. „Wij delen betrouwbare medische informatie om tegenwicht te bieden aan die hele pot nonsens”, zei huisarts Stefan van Rooijen daarover tegen NRC. Doordat het nu zo makkelijk is geworden om met AI deepfakes te maken zitten artsen met een nieuw dilemma: wie ervoor kiest om op sociale media medische misinformatie te bestrijden, loopt het risico te worden misbruikt. Om deepfakes te kunnen herkennen heeft Nap een tip: „Is het logisch dat een gynaecoloog iets zegt over een supplement om je bloed te zuiveren? Gebruik je verstand.”
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC