Nu de online wereld wordt overspoeld met door kunstmatige intelligentie gemaakte beelden, muziek en teksten neemt ook de weerzin tegen ‘slop’ toe. De detectoren zijn in opkomst. Hoe werken ze en zijn ze nuttig?
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Het gelikte mailtje, het lollige plaatje in de appgroep, de bizarre video op Instagram, dat prachtige emotionele nummer op Spotify? Misschien is het allemaal wel AI, wiens voortbrengselen steeds lastiger van hun menselijke evenknieën zijn te onderscheiden. Een paar jaar geleden was dat nog anders.
Vooral bij beelden – zowel bewegend als stilstaand – was de kwaliteit van AI ontluisterend.
Dat is in rap tempo veranderd. De vraag is of het erg is als menselijk niet meer van synthetisch is te onderscheiden.
Steeds meer mensen vinden van wel. Daar zijn genoeg redenen voor. Een belangrijke: AI stort ons in een vertrouwenscrisis. Als alles waar kan zijn, hoeft tegelijkertijd ook niets meer waar te zijn. Experts hebben hiervoor de term ‘liars dividend’ gemunt: de leugenaar is in deze wereld vol wantrouwen en verwarring per definitie in het voordeel.
Ironisch genoeg komt de hulp uit dezelfde hoek waar de problemen zijn ontstaan. Waar de gemiddelde mens steeds lastiger met het blote oog, of op gevoel, het onderscheid kan maken, daar kan AI – een beetje – uitkomst bieden.
Bij het herkennen van synthetische muziek, teksten, video of afbeeldingen gaan dit soort AI-detectoren fundamenteel (overigens een woord waar chatbots dol op zijn) anders te werk dan mensen. De detectieprogramma’s speuren naar specifieke patronen die voor het menselijk oog of gehoor niet zijn te zien.
Beelddetectoren, zoals Hive Detect of Pangram, scannen op pixelniveau om typische AI-afwijkingen op te sporen. De door Gemini, Claude of ChatGPT gegenereerde afbeeldingen zien er op het eerste gezicht waarachtig uit, alsof ze door een fotograaf zijn gemaakt, maar kunnen vreemde patronen laten zien. Ook kijken de detectoren naar afwijkingen bij kleur en licht.
Erg betrouwbaar is deze methode niet, zeker als beelden worden gecomprimeerd of bewerkt. Misschien is de oplossing van de Amerikaanse deepfake-expert Hany Farid wel de meest pragmatische. ‘Stop met je nieuws van sociale media te halen’, zo zei hij tegenover The New York Times. ‘De aanname dat het meeste van wat je ziet nep is, is op dit moment waarschijnlijk een vrij goede.’
Er is ook een andere, betrouwbaardere, technische methode in de vorm van onzichtbare watermerken. Een voorbeeld daarvan is SynthID van Google voor plaatjes. Het nadeel: er is speciale software nodig om die watermerken uit te lezen. Verder moet iedere maker van AI-gereedschap deze standaard omarmen. Ook Anthropic is begonnen met het toevoegen van – voor het publiek onzichtbare – watermerken in de teksten van zijn chatbot Claude.
Vooral AI-teksten lijken aversie op te roepen, vermoedelijk omdat die werkelijk overal opduiken. Uit onderzoek van Pew Research blijkt dat ruim een derde van alle webpagina’s die sinds de lancering van ChatGPT zijn gepubliceerd, waarschijnlijk door AI is geschreven of op zijn minst zwaar is bewerkt.
Op sociale media is het al niet beter, waar veel posts helemaal met AI worden gemaakt. Het leidt allemaal tot een vorm van AI-moeheid; mensen hebben genoeg van hun feeds die overspoeld worden met zielloze teksten vol clichés, emoticons en herhalende zinsstructuren.
Het populaire Substack is overgegaan tot het integreren van detectiesoftware op zijn nieuwsbrief- en blogplatform om te voorkomen dat lezers afhaken door alle opinies die door machines zijn geschreven. Net als Pew gebruikt ook Substack hiervoor Pangram.
Deze detectiesoftware geldt – dixit technologietijdschrift Wired – als de ‘gouden standaard’. Die kwalificatie komt niet helemaal uit de lucht vallen. Een recente studie van de Vrije Universiteit Brussel laat zien dat Pangram opvallend veel beter scoort dan andere detectieprogramma’s, zoals GPTZero of Turnitin. Pangram pikte de door de onderzoekers met AI vervaardigde teksten vrijwel zonder uitzondering eruit.
Toch is het gevaarlijk om blind te vertrouwen op Pangram, waarschuwt Mark Dingemanse, hoogleraar AI en taaldiversiteit aan de Radboud Universiteit in Nijmegen. AI-detectie achteraf kan volgens hem ‘nooit waterdicht’ zijn. Dat zegt ook Wiep Hamstra, informatiestrateeg en burgeronderzoeker naar chatbots en taalmodellen. Detectiesoftware is volgens haar hooguit een startpunt voor verder onderzoek.
Dit soort modellen werken op basis van waarschijnlijkheid, legt Dingemanse uit. ‘Signalen van synthetische tekst kunnen ook andere bronnen hebben dan AI. Engelse teksten van mensen die het Engels niet als eerste taal hebben worden bijvoorbeeld ook iets sneller geclassificeerd als AI.’
Er is nog een ander probleem: AI kan niet alleen gebruikt worden voor het schrijven van teksten en vervolgens het detecteren ervan, maar daarna ook weer om de detectieprogramma’s op het verkeerde been te zetten. Zo bestaat er software om AI-sporen te maskeren, waar Pangram dan uiteraard óók weer een oplossing voor heeft.
Dingemanse noemt dit een ‘wapenwedloop waar je beter niet aan kunt meedoen’. Het is voor hem een extra reden zelf geen detectietools te gebruiken bij de papers van zijn studenten.
Ook Hamstra gaat liever af op haar eigen oordeelsvermogen: ‘Door mijn ervaring, opleiding en achtergrond zie ik meteen of ik met AI heb te maken.’ Ze is overigens niet per definitie tegen het gebruik van AI: ‘Voor sommige toepassingen kan het heel nuttig zijn.’
Maar over het gebruik van AI bij het schrijven van opiniestukken, de laatste tijd veel in het nieuws, is ze duidelijk: niet doen. ‘AI maakt geen gebruik van redeneringen, maar van patronen. Daardoor leest het al snel als een tekst van iemand die niet kan denken.’
Geselecteerd door de redactie
Source: Volkskrant