Mexico Na de dood van een beruchte drugsbaron gingen op sociale media AI-beelden rond van wraakacties door diens kartel. Trumpistische influencers bleken een veel groter bereik te hebben dan de Mexicaanse autoriteiten die hun nepberichten probeerden te ontkrachten.
Voorbeeld van een met AI-gegenereerde foto die binnen en buiten Mexico massaal werd verspreid in de nasleep van de uitschakeling, zondag, van de Mexicaanse drugsbaas El Mencho. Op de luchthaven van Guadalajara en daarbuiten brak door dit soort berichten paniek uit.
De dood van Mexico’s machtigste kartelbaas ‘El Mencho’, afgelopen zondag, was nog niet bevestigd, of het land was al afgegleden in een burgeroorlog. De populaire toeristische badplaats Puerto Vallarta brandde. Een verkoold passagiersvliegtuig stond in vlammen op de landingsbaan. Schutters van El Mencho’s gewelddadige Jaliscokartel namen de luchthaven van Guadalajara over. Canadese en Amerikaanse toeristen werden gegijzeld.
Het was allemaal nepnieuws. Maar berichten erover en beelden ervan gingen op sociale media viral in de uren na de dood van ‘El Mencho’. Ze werden verder verspreid door Trumpistische influencers met een miljoenenbereik, zoals de radicaal-rechtse complotdenker Laura Loomer. Amerikaanse politici, onder wie de Republikeinse senator Bernie Moreno uit Ohio, gingen erin mee en dreigden met gevolgen voor Mexico als Amerikaanse burgers daadwerkelijk opgejaagd bleken te worden.
Hoewel het Jaliscokartel inderdaad in zeker vijftien staten zijn macht toonde, door wegen te blokkeren met brandende auto’s, bussen en vrachtwagens en door winkels en tankstations in brand te steken, bleken de meest extreme beelden desinformatie: vaak met AI-gegenereerde beelden en verspreid via sociale media als X, Instagram, WhatsApp en TikTok.
Toch brak op de luchthaven van Guadalajara onder aanwezige reizigers echte paniek uit. Nadat de beelden hiervan (en van de brandende steden) viraal gingen, besloten meerdere luchtvaartmaatschappijen vluchten naar Jalisco te annuleren. In de VS werd opgeroepen tot het evacueren van burgers uit Mexico door het Amerikaanse leger.
In een poging alle desinformatie het hoofd te bieden, probeerden Mexicaanse autoriteiten en ambassades, eveneens via sociale media, te melden wat er níét klopte. Hun bereik bleek echter aanzienlijk minder groot dan dat van de radicaal-rechtse influencers. In de dagen na de aanval kregen buitenlandse media, ook NRC, officiële verklaringen opgestuurd om de desinformatie te ontkrachten.
Een ander voorbeeld van AI-gegenereerd beeld, van een vermeend brandend Puerto Vallarta. Het ruitvormige logo van Google’s AI-tak Gemini, rechtsonder, verraadt al dat het geen echte foto betreft.
Hoe enorm de nepnieuwsgolf was, bleek ook uit een rapport van het Observatorium voor Digitale Media van het Instituut voor Technologie van Monterrey. Volgens de onderzoekers gingen in de eerste twee etmalen na El Mencho’s dood tot vijfhonderd berichten met desinformatie rond, waarvan veertig ‘viraal’ gingen. Dat betekent dat een bericht minstens tienduizend keer werd gedeeld, vijftigduizend reacties kreeg en honderdduizend keer gezien werd. Het instituut berekent dat er daarmee in totaal circa vijf miljoen blootstellingen aan nepnieuws waren.
De regering zegt te onderzoeken of bepaalde sociale-media-accounts die verantwoordelijk voor de verspreiding van het nepnieuws gelieerd zijn aan de georganiseerde misdaad. In dat geval zou het drugskartel zijn werkelijke wraakcampagne hebben willen uitvergroten via sociale media.
Het instituut zag ook een ander soort nepnieuws. Zo ging het bericht rond dat president Claudia Sheinbaum uit veiligheid aan boord van een marineschip in de Stille Oceaan was gegaan. Anderen schreven dat Mexico ‘El Mencho’ had uitgeschakeld om uitlevering aan de VS te voorkomen, uit angst dat hij daar Mexicaanse staatsgeheimen zou delen.
Maandag gaf de Mexicaanse minister Ricardo Trevilla van Defensie een persconferentie met details over de militaire operatie. De topmilitair beschreef hoe inlichtingendiensten in de aanloop naar zondag een vrouw volgden die volgens hen een vriendinnetje van ‘El Mencho’ zou zijn. Toen deze vrouw naar Tapalpa, een bergdorp in de staat Jalisco, werd gebracht, werd ze stiekem gevolgd door Mexicaanse agenten. Door haar te volgen naar een huisje in de bergen, kwamen de inlichtingendiensten erachter dat ‘El Mencho’ in het toeristencomplex zat. Na haar vertrek werd de aanval op hem en zijn zwaarbewapende entourage geopend. Bij het vuurgevecht dat volgde, zou ‘El Mencho’ uiteindelijk omkomen.
Ook hier ging het internet mee aan de haal. In de dagen na de aanval werd het bekende OnlyFans-model María Julissa (3,5 miljoen volgers op Instagram) aangewezen als de geliefde van ‘El Mencho’, die hem mogelijk zou hebben verraden aan de autoriteiten. AI-gegenereerde beelden van Julissa met ‘El Mencho’, onder meer in een nachtclub, moesten die bewering staven. Nepnieuws dat dodelijke gevolgen kan hebben: dinsdag verscheen in een dorp in Jalisco een spandoek met daarop de tekst „María Julissa, je hebt de hand gebeten die je voedde”.
Julissa schreef op Instagram „niets met die situatie te maken” te hebben en dat „de informatie die rondgaat onjuist en ongegrond” is. Voor haar is het vooral hopen dat het Jaliscokartel – voor zover bekend momenteel zonder leider – deze desinformatie niet serieus neemt.
Doorzie de wereld van technologie elke week met NRC-redacteuren