Het moet zelfs voor Elon Musk een rare gewaarwording zijn. Zijn ene bedrijf (Neuralink) plaatst breinimplantaten, zijn andere (X) lukt het niet eens om simpele maatregelen tot een goed einde te brengen. En terwijl hij hardop droomt over een toekomst waarin iedereen zijn computer of smartphone via gedachten kan aansturen, zien X-gebruikers hun zolderkamerfantasietjes over Taylor Swift op hun scherm tot werkelijkheid komen.
Met dank aan AI werd het netwerk eind vorige week overspoeld met realistisch ogende beelden van de zangeres in compromitterende en expliciete posities. Sommige ervan werden tientallen miljoenen keren bekeken voordat X, bijna een etmaal later, ingreep. Dat gebeurde pas toen Swift-fans de beelden massaal begonnen te rapporteren.
Hier komen een paar dingen samen: de beschikbaarheid van laagdrempelige AI-apps én de onwil van X om zijn netwerk te ontdoen van haat, seksisme, racisme, desinformatie en andere ellende.
Wat betreft de eerste component: specialistische AI-porno-apps genieten een grote populariteit. De digitale knutselaar kan een specifieke beschrijving geven van een scène die hij gevisualiseerd wil hebben, maar kan ook gezichten van beroemdheden plakken over bestaande pornobeelden. De resultaten vinden gretig aftrek op Telegram of X.
Vrouwen zijn al langer slachtoffer van deze praktijken, maar pas met Taylor Swift als doelwit komen X én Amerikaanse politici in beweging. Nu is de maat vol, klinkt het ineens in Washington. En X zelf greep uiteindelijk wel in, onder meer door zoekopdrachten naar Taylor Swift tijdelijk te blokkeren. Althans, een poging daartoe: wie in plaats van ‘Taylor Swift AI’ de woordcombinatie ‘Taylor AI Swift’ invulde, kreeg alsnog de beelden die hij zocht.
Het is allemaal nogal knullig, maar het is niet het grootste probleem. De ranzige AI-variant van Taylor Swift is de opmaat voor een wereld waarin niet alleen X, maar het hele internet wordt overspoeld met gemanipuleerde media. Dezelfde AI-technieken kunnen ook worden ingezet om verkiezingen te manipuleren.
Ook X zelf heeft een groter probleem dan alleen Swift. Musk knikkerde zo’n beetje iedereen eruit die iets deed met moderatie. In Nederland houdt welgeteld één persoon zich nog met de veiligheid op het platform bezig.
Dat is te merken: X laat hier bijna alles op zijn beloop. Doodsverwensingen blijven tegenwoordig gewoon staan, evenals onversneden racistische en seksistische fantasieën. Zo plaatste ‘chef kunst & cultuur’ Erick Overveen van complotblaadje De Andere Krant een AI-foto van twee jonge zwarte vrouwen met daarbij de tekst dat hij ze in het kader van de ‘spreidingswet’ (haha) in huis neemt zodat ze in natura kunnen betalen. Hashtag ‘omvolking’.
Er is werkelijk geen ondergrens waar deze mensen niet doorheen willen. https://t.co/hXBFB3XSP1
De lange lijst met commentaren schetst een ontluisterend beeld: behalve koken en schoonmaken is seks het enige waar asielzoekers goed voor zijn.
Het mag allemaal van X, hoewel het in zijn eigen voorwaarden zegt: ‘We verbieden de ontmenselijking van een groep mensen op basis van hun nationale afkomst, ras of etniciteit.’ Die voorwaarden zijn een wassen neus: X komt pas in actie als de commotie te groot wordt.
Nu maar hopen dat Overveen geen breinimplantaat van Neuralink krijgt.
Source: Volkskrant