Uitgevers en media worstelen met schrijvers die AI gebruiken. Auteur Steven Rosenbaum schreef een boek waarin hij dit gevaar onbedoeld benadrukt.
Bij mensen raakt de waarheid soms uit het zicht door vooroordelen, beperkte informatie en emotionele reacties, schrijft de Amerikaanse auteur Steven Rosenbaum in zijn eerder deze maand verschenen, aanvankelijk positief ontvangen boek The Future of Truth, over de waarheid in tijden van kunstmatige intelligentie. „Machines brengen een ander soort vertekening met zich mee: een Waarheid die wiskundig zo complex is, zo snel wordt gegenereerd en gevalideerd, dat ze onbegrijpelijk wordt voor de menselijke waarneming.”
Laat dat nou net zijn wat hem zelf overkwam: zijn boek bevat verschillende verkeerd toegeschreven of zelfs verzonnen (door AI gehallucineerde) citaten, onthulde The New York Times precies een week na de publicatiedatum.
De Amerikaanse tech-journalist Kara Swisher wordt bijvoorbeeld aldus geciteerd: „Het meest geavanceerde AI-taalmodel is als een spiegel. Het reflecteert onze eigen moraal naar ons terug, gepolijst en welbespraakt, maar uiteindelijk leeg achter het oppervlak.” Zelf zei ze tegen The New York Times dat ze dat nooit had gezegd. „Ik klink ook alsof ik een stok in mijn kont heb, volgens ChatGPT”, zei ze in een berichtje aan de krant.
In de citeerfouten herken je duidelijk de erratische virtuele hand van large language models. Aan emotiehoogleraar Lisa Feldman Barrett wordt een verzonnen citaat over emoties toegeschreven dat ze niet vindt kloppen. Een citaat van de Amerikaanse hoogleraar datajournalistiek Meredith Broussard wordt aan een boek van haar toegeschreven terwijl het uit een radio-interview kwam.
De factchecker én twee redacteuren van de uitgeverij hebben de foute citaten niet opgemerkt. Het is onduidelijk hoeveel het er zijn. The New York Times spreekt van „meer dan een half dozijn”, de auteur zelf heeft het in een reactie aan die krant over „een handvol”. Het kunnen er meer worden naarmate het onderzoek voortgaat.
Het was een ongelukje, zei Rosenbaum. Hij had bij zijn onderzoek en tijdens het schrijven en redigeren gebruik gemaakt van AI-programma’s Claude en ChatGPT; dat stond ook gewoon in zijn boek, maar hij had niet de bedoeling gehad om standpunten te fabriceren. Hij neemt de volle verantwoordelijkheid voor de fouten. Nieuwe edities van het boek zullen worden gecorrigeerd.
Vast. Intussen worstelen uitgevers en media met schrijvers die AI gebruiken. Deze maand werd een kort verhaal dat een wedstrijd in literair tijdschrift Granta won, door velen verdacht door AI te zijn geschreven. Vorig jaar verzon AI een lijst gehallucineerde zomerboeken voor de Chicago Sun-Times. In de wetenschap neemt het aantal verwijzingen naar niet-bestaande artikelen sterk toe.
Rosenbaum is trouwens niet van plan om te stoppen met het gebruik van ChatGPT en Claude, vertelde hij tegen nieuwssite ArsTechnica. En tegen zowel Ars Technica als de The New York Times durfde hij te zeggen dat zijn fouten nou precies de waarschuwing zijn voor de risico’s van AI die voor hem de aanleiding waren om het boek te schrijven. Al had hij er liever op een andere manier aandacht voor gekregen.
Iedere week bespreekt de redactie wetenschap hier ophef in de wetenschap.
Op de hoogte van kleine ontdekkingen, wilde theorieën, onverwachte inzichten en alles daar tussenin