nieuwsbriefNRC Broncode
NRC Broncode Volgens een ruwe schatting werden in 2024 dagelijks 34 miljoen AI-afbeeldingen gefabriceerd, maar dat lijkt een erg conservatief getal. Omdat sociale netwerken weinig doen om nep-beelden te filteren, bedacht de Nederlandse zoekexpert Henk van Ess een methode om AI-manipulatie te herkennen.
Een screenshot van de tool Image Whisperer, die laat zien dat het plaatje dat geanalyseerd is zeer waarschijnlijk AI-gegenereerd is.
We hebben het hier vaker gehad over nep-afbeeldingen die online rouleren. Laatst nog, toen de wereld zich verbaasde over Paul McCartney die een doodzieke Phil Collins leek te trakteren op een Beatles-deuntje.
Volgens een ruwe schatting werden in 2024 dagelijks 34 miljoen AI-afbeeldingen gefabriceerd, maar dat lijkt een erg conservatief getal. De verbazing over ‘hoe echt’ AI oogt, is weggezakt – hoe ga je daarmee om?
Het zal beroepsdeformatie zijn, maar omdat pixels (en mensen) kunnen liegen, twijfel ik aan alles wat er in de tijdlijn verschijnt. Sociale media zijn streamingdiensten vol fictie, met hier en daar een documentaire van een betrouwbare bron.
AI-eyecandy is leuk, maar criminelen gebruiken nepfoto’s om je een oor aan te naaien en Russische trollen proberen ermee verwarring te zaaien. Dat betekent dat je extra moet opletten in de aanloop van de verkiezingen op 29 oktober.
Omdat sociale netwerken weinig doen om nep-beelden te filteren, bedacht de Nederlandse zoekexpert Henk van Ess een methode om AI-manipulatie te herkennen. Van Ess is een zoekexpert: hij doorgrondt alle trucs van Google Search en traint onder meer journalisten en rechercheurs om hun onderzoekswerk te vereenvoudigen en bronnen te controleren.
Je leest hier een verkorte versie van onze nieuwsbrief NRC Broncode. Wekelijks schrijven wij over technologische ontwikkelingen die op de redactievloer tot opwinding leiden. Inschrijven (voor Plus-abonnees) doe je hier:
Inschrijven voor NRC Broncode
Er zijn AI-detectoren op de markt die media analyseren op onnatuurlijke gezichten, verkeerde belichting en artefacten. Zulke methoden maken vaak gebruik van grote datasets met echt en nepmateriaal om classificatiemodellen te trainen. Van Ess: „Dat is een kat-en-muis-spel. Telkens als Midjourney en Dall-E de bakens verzetten, dan moet je zo’n model ook weer trainen.”
Het hoeft allemaal niet zo duur, volgens de zoekexpert, en hij sloeg aan het vibecoden: programmeren met losse handen, waarbij AI het merendeel van de code genereert.
„Ik vroeg me af: wat zou er nou gebeuren als ik Google Vision, een model dat van alles in de wereld beschrijft, combineer met Vertex AI. Dat is een industrieel platform waarmee je grote hoeveelheden data met elkaar kan vergelijken in hoog tempo. De classificatie laat ik weer interpreteren door Claude, het taalmodel van Anthropic.”
Klinkt ingewikkeld, maar het werkt.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Het resultaat heet de Image Whisperer, een tool waar je snel een afbeelding kunt laten analyseren. Kwestie van knippen en plakken. Als je een plaatje hebt geüpload krijg je de mededeling dat ‘de AI jury zich aan het beraden is’, en volgt de uitslag, voorzien van analyses.
Een test met een echt plaatje van Jensen Huang pakt goed uit, al denken de AI-bots denken dat de Nvidia-topman op een podium in China staat, terwijl hij zich in werkelijkheid op een conferentie in Taiwan bevindt. Maar Image Whisperer doorstaat de lakmoesproef: het plaatje van Paul McCartney en Phil Collins is volgens de jury ‘hoogstwaarschijnlijk gemanipuleerd’.
Image Whisperer is gratis, maar elke check kost eigenlijk 40 dollarcent aan AI-rekenwerk – vandaar dat er een vrijwillige betaallink is toegevoegd. Alleen het motto al is onbetaalbaar: Let’s cherish our shared reality – laten we onze gedeelde realiteit blijven koesteren.
De EU dwingt in nieuwe AI-wetgeving af dat kunstmatig gegenereerde plaatjes te herkennen zijn aan een watermerk. Die regel geldt vanaf augustus 2026, maar verschillende aanbieders verstoppen nu al zo’n spoor. Google gebruikt daarvoor een techniek die SynthID heet. Het werkt echter alleen als sociale media zulke watermerken (h-)erkennen en de gebruiker waarschuwen.
Je kunt ook gewoon je gezond verstand gebruiken, schrijft Van Ess in een toelichting op zijn methode. Vertrouw op je buikgevoel. Oogt het plaatje te perfect? Ziet een scene op het slagveld eruit als een foto uit een modetijdschrift? Zijn de gezichten en de kleren gladgestreken, staan de tanden te recht? Je voelt aan je water dat het nep is. En anders is het voer voor de AI-jury van de ImageWhisperer.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Source: NRC