Vorige week verschenen op sociale media realistisch ogende foto’s van Swift in allerlei expliciete poses. De afbeeldingen waren gemaakt met een van de tientallen applicaties die kunstmatige intelligentie toepassen om uit bestaand materiaal nieuwe beelden te scheppen.
Zulke fotomontages waren al decennia mogelijk met schaar en lijm, en daarna met Photoshop. Maar ze zijn sinds twee jaar in een vloek en een zucht te maken door AI-software een omschrijving van het gewenste beeld te voeren (‘Maak een foto van de paus in een witte pufferjas’).
De beelden verschenen onder andere op de berichtendienst X, die naar eigen zeggen de vunzigheid zo snel mogelijk heeft verwijderd. Niettemin werd zeker één foto 47 miljoen keer bekeken en doorgeplaatst voor X het account wist te sluiten waarop het origineel werd gepubliceerd.
De berichtendienst, sinds 2022 eigendom van Tesla- en SpaceX-topman Elon Musk, probeert de verspreiding van de beelden ook te stoppen door het onmogelijk te maken om op de naam ‘Taylor Swift’ naar berichten te zoeken. Daarmee is ook legitieme content op X over de 34-jarige zangeres onvindbaar geraakt.
Zowel het Witte Huis als het leden van het Amerikaanse Congres hebben schande gesproken van de nepbeelden. Regering en parlement zeggen al langer dat ze de uitwassen van kunstmatige intelligentie willen bestrijden, maar concrete maatregelen laten op zich wachten. Nu de nieuwe, beloftevolle technologie zich aan een nationaal idool als Taylor Swift vergrijpt, is de maat in Washington vol.
‘Dit is erg zorgwekkend’, zei een perswoordvoerder van het Witte Huis dit weekeinde. Zij erkende dat sociale media hun eigen afwegingen maken over welke content wel en niet door de beugel kan, maar ‘ze spelen ook een belangrijke rol in de naleving van hun eigen regels om de verspreiding te voorkomen van misinformatie en intieme afbeeldingen van echte mensen die daar niet mee hebben ingestemd’.
Tien van de vijftig Amerikaanse staten hebben al wetten aangenomen die het maken en verspreiden van gemanipuleerde afbeeldingen (deepfakes) zoals die van Swift strafbaar stellen, maar de roep wordt luider om nationale wetgeving.
In dat opzicht is het misschien – onbedoeld – gunstig dat beeldenknutselaars zich op Swift hebben geworpen, zegt Ben Decker van Memetica, een particulier digitaal onderzoeksbureau, tegen de zender CNN. ‘Als grote sterren als Taylor Swift het doelwit zijn, zet dat wetgevers en techbedrijven misschien aan tot actie, omdat ze het zich niet kunnen veroorloven dat Amerika’s lievelingen een campagne tegen hen beginnen. Swift legt waarschijnlijk meer gewicht in de schaal dan wie dan ook op internet.’
Toen Swift de laatste jaren klaagde over de miljoenen die de tussenhandel verdient aan woekerprijzen voor ‘tweedehands’ kaarten voor haar concerten, leidde dat ook tot wettelijke voorstellen om deze lucratieve markt te beteugelen.
De zangeres heeft zelf nog niet gereageerd op de controverse. Er bestaat de mogelijkheid, denken juristen, dat de makers van de expliciete beelden strafrechtelijk worden vervolgd. Maar Swift heeft volgens experts meer kans op genoegdoening als ze achter de sociale media aangaat die beelden helpen te verspreiden en de bedrijven die de applicaties aanbieden die aanstootgevende vervalsingen mogelijk maken.
Bij de Swift-namaakporno is onder andere een AI-beeldenschepper benut van Microsoft. Topman Satya Nadella voelt de bui kennelijk al hangen. In een vraaggesprek met de Amerikaanse zender NBC News zei Nadella dat zijn bedrijf de druk voelt ‘om snel te handelen’ tegen pornografische deepfakes. Het is de verantwoordelijkheid van Microsoft om ‘vangrails’ aan te brengen rond de technologie, aldus Nadella, ‘zodat er meer veilige content wordt geproduceerd. Er moet nog een hoop gebeuren, en er gebeurt al een hoop’.
Taylor Swift staat inmiddels niet alleen. De nabestaanden van George Carlin hebben het mediabedrijf Dudesey aangeklaagd omdat ze de stem van de Amerikaanse komiek met een computer hebben nagebootst en een chatbot teksten hebben laten opstellen ‘in de geest van Carlin’, gebaseerd op teksten uit zijn theater- en tv-shows.
De dochter van de in 2008 overleden Carlin noemt de namaak van Dudesey ‘een armzalig uitgevoerde kopie bijeengeraapt door gewetenloze individuen die een slaatje willen slaan uit de bijzondere band die mijn vader heeft opgebouwd met zijn grote schare bewonderaars’.
Om u deze content te kunnen laten zien, hebben wij uw toestemming nodig om cookies te plaatsen. Open uw cookie-instellingen om te kiezen welke cookies u wilt accepteren. Voor een optimale gebruikservaring van onze site selecteert u "Accepteer alles". U kunt ook alleen de sociale content aanzetten: vink hiervoor "Cookies accepteren van sociale media" aan.
Voor snelle wijzigingen en bezorging
U bent niet ingelogd
Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2024 DPG Media B.V. - alle rechten voorbehouden