De wiskunde zou volgens de wiskundigen onder meer te afhankelijk worden van commerciële AI-programma’s, waarbij je niet goed onder de motorkap kunt kijken hoe ze eigenlijk werken.
is wetenschapsredacteur voor de Volkskrant. Hij schrijft over sterrenkunde, natuurkunde en ruimtevaart.
Een internationale groep onderzoekers doet dinsdag een dringende ‘oproep om de kernwaarden van de wiskunde te beschermen in het tijdperk van AI’, zoals de initiatiefnemers het zelf omschrijven.
Met de verklaring, die ze de ‘Leiden Declaration on Artificial Intelligence and Mathematics’ doopten, roepen ze niet op tot een verbod op AI, maar tot actie om verstandiger met de technologie om te gaan.
Zo signaleren de initiatiefnemers onder meer dat AI momenteel het ‘publicatiesysteem overspoelt met onbetrouwbare resultaten’. De bewijzen die programma’s als ChatGPT en Claude produceren, kunnen overtuigend lijken, maar soms bijna onzichtbare fouten bevatten, waarschuwen ze.
Naast zulke bedreigingen voor de inhoud zien de initiatiefnemers ook risico’s in de manier waarop commerciële partijen een deel van het academisch werk overnemen. ‘Wat gebeurt er als een wiskundig bewijs niet langer het werk is van een mens, maar van een algoritme dat niemand helemaal begrijpt?’, vragen de initiatiefnemers zich bijvoorbeeld af in een persverklaring.
Die vraag is niet hypothetisch: zo loste OpenAI eind mei bijvoorbeeld het zogeheten ‘unit distance’-probleem op, dat tachtig jaar onopgelost was gebleven. Het leidde tot enthousiaste reacties uit het veld. ‘Het lijdt geen twijfel dat deze oplossing een mijlpaal is in de AI-wiskunde’, schreef Tim Gowers, die in 1998 de Fields-medaille won, de hoogste eer in de wiskunde, in een stuk met reacties dat OpenAI publiceerde.
Volgens wiskundige Sander Dahmen van de Vrije Universiteit Amsterdam, lid van de groep initiatiefnemers van de Leiden Declaration, illustreert de casus echter ook de problemen met dit soort AI-oplossingen. ‘OpenAI is totaal niet open over wat ze precies hebben gedaan. Welke prompts hebben ze gebruikt, hebben ze wiskundigen ingehuurd om de eerste stappen te zetten? Hebben ze, weet ik het, een miljoen dollar aan stroom verbruikt voor het rekenwerk? We weten het niet, en we kunnen het ook niet evalueren.’
Het gebruik van commerciële AI-tools kan volgens de wiskundigen leiden tot toenemende ongelijkheid tussen onderzoekers. Bovendien zien ze risico’s op het vlak van auteursrecht en bronvermelding. ‘Ook bij het unit distance-probleem zie je in de oplossing sporen terug van eerdere menselijke ideeën, die door het AI-model nu geen credit krijgen voor hun rol bij het vinden van de oplossing’, zegt Dahmen.
De verklaring wordt onderschreven door de internationale vakvereniging IMU (International Mathematical Union) en meerdere prominente wetenschappers.
‘Dit is een prachtige verklaring, die op het juiste moment komt’, zegt Peter Scholze, die in 2018 de Fields-medaille won in een ondersteunende verklaring op de site van het initiatief. Hij ziet de mens als onlosmakelijk onderdeel van het vak. ‘Naar mijn ervaring moeten wiskundige ideeën, net als kinderen, worden gekoesterd en mogen ze door de jaren heen groeien. Net zoals ik mijn kinderen niet door AI wil laten opvoeden, denk ik over mijn wiskundige ideeën na zonder AI te gebruiken.’
Alles over wetenschap vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant