N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Kunstmatige intelligentie De paus in een donsjas, de ‘arrestatie’ van Donald Trump. Hoe herken je een AI-afbeelding? En zijn ze überhaupt nog van echte foto’s te onderscheiden?
Ineens waren ze er: neppe mensen. In 2019 genereerde de website met de veelzeggende naam ‘thispersondoesnotexist.com’ portretfoto’s van personen die niet bestonden. Met een simpele druk op de knop konden internetgebruikers zo veel nieuwe gezichten op hun scherm laten verschijnen als ze wilden. En hoewel achter geen van de bedrieglijk realistische gezichten een echt persoon schuilging, wisten deze personen online wel degelijk een eigen leven te leiden. Dat bleek bijvoorbeeld toen Facebook en Instagram nog datzelfde jaar honderden nepaccounts verwijderden die werden ingezet voor desinformatiecampagnes op socialemediaplatforms.
Het was het eerste bekende voorbeeld waarbij AI-afbeeldingen ( foto’s gegenereerd door artificiële intelligentie) een rol speelden in het verspreiden van desinformatie. Er zouden er vele volgen: in maart dit jaar gingen bijvoorbeeld foto’s viral van voorvallen die nooit hadden plaatsgevonden: ex-president Donald Trump die wegrent voor politieagenten en paus Franciscus die een opvallend stijlvolle witte donsjas draagt.
‘Thispersondoesnotexist.com’ maakte gebruik van een geüpdatete versie van StyleGAN, de eerste generatieve AI (een vorm van AI waarmee originele content kan worden geproduceerd, van muziek tot beeldende kunst) die echt populair zou worden onder een groot publiek. Tegenwoordig is er een flink aantal van dit soort programma’s publiek beschikbaar, waarvan de mogelijkheden en kwaliteit rap toenemen. Zo werden de foto’s van Trump en Franciscus gemaakt met het programma Midjourney, dat gebruikers in staat stelt gedetailleerde omschrijvingen in te voeren van de afbeelding die ze voor ogen hebben. Dat kan handig zijn, of grappig, maar ook schadelijk.
Hoe herken je zo’n AI-afbeelding? En zijn ze überhaupt nog van echte foto’s te onderscheiden?
Volgens Symeon Papadopoulos, hoofdonderzoeker bij het Griekse Instituut voor Informatica en Telematica, hebben we al een stadium bereikt waarin het in sommige gevallen „bijna onmogelijk” is om met het blote oog te zien of een afbeelding is gemaakt door AI. Vooral wanneer iemand met de nodige expertise de laatste foutjes van de computer handmatig heeft weggewerkt. Daarom coördineert Papadopoulos het Europese onderzoeksproject vera.ai, waarbij, ironisch genoeg, AI wordt ingezet voor het verifiëren van digitale audio, video’s, afbeeldingen en teksten. De verificatietechnieken die uit het project voortkomen, kunnen vervolgens worden ingezet in de strijd tegen desinformatie.
Er circuleert al een aantal verificatieprogramma’s dat claimt AI-afbeeldingen te herkennen, ziet Papadopoulos. Maar door de veelheid aan programma’s die AI-afbeeldingen genereren, kun je er „niet zeker van zijn dat de verificatieprogramma’s in alle gevallen werken, of slechts in een specifiek aantal gevallen”, zegt hij. Dat maakt de resultaten van de programma’s mogelijk onbetrouwbaar: een probleem waar ook de onderzoekers van vera.ai mee worstelen.
Wat kun je als internetgebruiker dan wél doen als je twijfelt of je een echte foto voor je neus hebt of eentje die gemaakt is door slimme software? Probeer eens een ‘reverse image search’, raadt oprichter van onderzoeksjournalistieknetwerk Bellingcat Eliot Higgins aan.
Higgins is zelf degene die in maart grappend de AI-afbeeldingen van Trumps ‘arrestatie’ genereerde en tweette, waarna de foto’s massaal werden gedeeld door internetgebruikers. Je kunt die afbeeldingen als zoekopdracht invoeren in een programma als Google Afbeeldingen of TinEye, om te zien of hij online ook op andere plekken opduikt. AI-afbeeldingen leveren doorgaans weinig zoekresultaten op, soms leiden de resultaten naar een database van AI-gegenereerde plaatjes. Dan weet je gelijk dat je met een kunstmatig kiekje te maken hebt. In het geval van Trump was het al voldoende geweest om de tekst die Higgins bij de foto’s schreef goed te lezen: ‘Foto’s aan het maken van Trumps arrestatie, terwijl we wachten op Trumps arrestatie.’
1. Inconsistenties. denk aan niet-matchende knopen of vervormde patronen.
2. Gebrek aan details. Bijvoorbeeld in het haar, de kleding of bij objecten in de achtergrond.
3. Ongebruikelijke of onnatuurlijke gezichtskenmerken. Asymmetrische ogen, oneven wenkbrauwen, vervormde neuzen of te veel tanden.
4. Herhaalde patronen. Vooral in de achtergrond of in kleding. Dit gebeurt wanneer het AI-model op basis van beperkte data lege plekken invult.
5. Inconsistente belichting. Of schaduwen die niet passen bij het gehele plaatje.
6. Waterverfachtige patronen. Vooral in het haar, een vacht of het gras. Dit komt doordat het AI-model niet zozeer duidelijke lijnen en details creëert, maar kleuren en patronen mengt.
7. Inconsistente resolutie van de afbeelding. Sommige delen van de afbeelding lijken meer gedetailleerd dan andere.
8 .Ongebruikelijke of fysiek onmogelijke poses. Het AI-model begrijpt dan niet volledig wat de beperkingen zijn van de menselijke anatomie.
NieuwsbriefNRC Future Affairs
De spannendste stukken over de toekomst van tech, economie, klimaat en megatrends
U kunt ons via dit formulier informeren over taalfouten of feitelijke onjuistheden, dat stellen wij zeer op prijs. Berichten over andere zaken worden niet gelezen.
Source: NRC