Jim Portegies | wiskundige Een groep wiskundigen roept op tot actie rondom het gebruik van AI in hun vak. Voor die bedrijven „is het mooie marketing om te kunnen zeggen: kijk eens, ons model lost een wiskundig probleem op”.
„Slechts weinig wiskundigen kunnen het zich permitteren om uitsluitend hun eigen nieuwsgierigheid te volgen.”
Wat lange tijd ondenkbaar leek, is werkelijkheid geworden: kunstmatige intelligenties leveren zelfstandig wiskundige bijdragen aan openstaande problemen. Dat biedt nieuwe mogelijkheden, maar brengt ook risico’s met zich mee. In een tijdperk waarin AI steeds verder doordringt in de wetenschap, is het volgens een groep van zestien wiskundigen zaak om de kernwaarden van de wiskunde te beschermen.
In de deze week gepubliceerde Leiden Declaration on Artificial Intelligence and Mathematics wordt de internationale wiskundige gemeenschap opgeroepen tot actie. De verklaring komt voort uit een conferentie die afgelopen najaar aan de Universiteit Leiden werd gehouden, waar zestig wetenschappers uit de hele wereld bijeenkwamen om te discussiëren over de toekomst van de wiskunde.
De Leidse verklaring wordt onderschreven door de International Mathematical Union. De schrijfgroep werd georganiseerd door Jim Portegies, wiskundige van de Technische Universiteit Eindhoven. „Er zijn grote risico’s, die verder reiken dan de wiskunde zelf. Een daarvan is dat lang niet alle AI-resultaten betrouwbaar zijn”, zegt hij tijdens een videogesprek.
„Het probleem is dat AI-resultaten soms zeer overtuigend ogen. Fouten zijn vaak moeilijk te ontdekken, omdat ze bijvoorbeeld op onverwachte plekken liggen. Als je werk doorleest van een collega, die er lang en goed over heeft nagedacht, dan voelt die zich er doorgaans voor verantwoordelijk om alles kloppend op te schrijven. Een AI-systeem kent zo’n verantwoordelijkheidsgevoel niet.”
„De vertaalslag van een stelling naar een statement in zo’n bewijsassistent is nog steeds best moeilijk. Iemand moet de gemaakte statements nog steeds nauwkeurig doorlezen, anders bestaat er een risico dat er iets anders bewezen wordt dan je eigenlijk zou willen. Het is heel tijdrovend om alles echt te formaliseren. Voor veel wiskunde is het gebruik van een bewijsassistent voor nu nog buiten bereik.”
„Commerciële belangen kunnen de onderzoeksagenda van de wiskunde beïnvloeden. Wij vinden het belangrijk dat we ook buiten de invloedssfeer van bedrijven als Google en OpenAI ons werk kunnen blijven doen. Anders wordt er steeds meer onderzoek gestuurd door wat die bedrijven interessant vinden. Bovendien vergroot afhankelijkheid van modellen van grote bedrijven de ongelijkheid tussen wiskundigen.”
„Slechts weinig wiskundigen kunnen het zich permitteren om uitsluitend hun eigen nieuwsgierigheid te volgen. Gezien de populariteit van AI-gebaseerd onderzoek richt een groot deel van de gemeenschap hun aandacht daarop, waardoor er automatisch minder waardering overblijft voor ander belangrijk onderzoek. Veel wiskundigen werken bovendien in toegepaste vakgebieden en zijn afhankelijk van samenwerkingen met bedrijven.”
„Het is natuurlijk mooie marketing om te kunnen zeggen: kijk eens, ons model lost een wiskundig probleem op. Maar hun eigenlijke doel is niet het bevorderen van de wiskunde. Voor AI-bedrijven is wiskunde vooral interessant omdat deze wetenschap heel nuttig is om AI strategisch te trainen. Dat komt door het feit dat als AI beter wordt in wiskunde, ook de algemene redeneervaardigheden verbeteren.
„In hun marketing gaan deze bedrijven nog een stap verder. Ze suggereren dat als de modellen wiskunde kunnen, ze in principe alles kunnen. Dat schept een soort misplaatst vertrouwen in die systemen. Maar ze zijn niet vrij van fouten, en bias en ongelijkheid zijn ingebakken. Met de toeslagenaffaire hebben we gezien hoe dat mis kan gaan.
„Wiskundigen hebben bovendien nauwelijks controle over hoe hun werk wordt gebruikt. Hun publicaties worden zonder toestemming ingezet voor de ontwikkeling van algemene AI. Dat roept ethische vragen op, zeker wanneer zulke systemen later worden gebruikt voor massaspionage, oorlogsvoering, manipulatie, en dan hebben we het nog niet eens over de impact op het milieu.”
„We zijn als wiskundige gemeenschap juist groot voorstander van open science. Maar met alle commerciële interesses en geopolitieke spanningen verplaatst AI-gebaseerde wiskunde zich nu achter gesloten deuren en dat vinden we kwalijk. OpenAI zegt praktisch niets over hun methoden, de trainingsdata, de benodigde rekenkracht en de impact op duurzaamheid. In de verklaring pleiten we voor open science. Toch betekent dat niet dat het zomaar voor alles gebruikt mag worden. Daar zijn vaak licenties voor die aangeven wat wél en wat níét met de wetenschap gedaan mag worden. Het probleem is alleen dat veel van die licenties zijn ontworpen vóórdat generatieve AI opkwam.”
„Dit gaat veel verder dan wiskunde. Onbeperkte AI bedreigt vele vakgebieden en de maatschappij in het algemeen. We hebben regulering nodig. Overheden moeten tot wetten en internationale afspraken komen. Dat kunnen we niet alleen. De verklaring is ook een uitnodiging aan anderen om samen deze technologie in goede banen te leiden.”
Op de hoogte van kleine ontdekkingen, wilde theorieën, onverwachte inzichten en alles daar tussenin