Je kunt als 75-jarige natuurlijk rustig afscheid nemen en bescheiden glimlachend de vriendelijke woorden van je baas in ontvangst nemen, terwijl je collega’s en naasten een blokje elastische kaas wegspoelen met lauw bier. Dat is niet waar Geoffrey Hinton voor koos.
In een interview met The New York Times, begin deze maand, uit Hinton zijn zorgen over de snelheid en de richting waarin AI zich momenteel ontwikkelt. ‘Het is moeilijk in te zien hoe je kunt voorkomen dat kwade krachten het voor slechte dingen gebruiken’, aldus de pensionado. Zijn boodschap slaat in als een bom.
Over de auteur
Laurens Verhagen schrijft voor de Volkskrant over technologie, internet en kunstmatige intelligentie. Daarvoor was hij onder andere hoofdredacteur van nu.nl.
Hintons timing is perfect: in maart publiceerde het Future of Life Institute een open brief waarin experts waarschuwen voor de risico’s van AI. Vanaf dat moment wordt het AI-debat gedomineerd door de vraag of AI inderdaad op het punt aan het komen is dat de mens controle verliest. Hilton ondertekende die brief niet, omdat hij toen nog verbonden was aan Google. Maar nu kan hij vrijuit spreken.
Hinton staat bekend als een van de drie ‘godfathers van AI’. Samen met de veel bekendere Yann LeCun (de AI-baas bij Meta) en Yoshua Bengio won hij in 2018 de Turing Award voor zijn fundamentele werk op het gebied van neurale netwerken.
Deze ‘Nobelprijs voor de informatica’ is de kroon op zijn baanbrekende werk, dat teruggaat tot de jaren zeventig. Dat zijn de donkere jaren van de AI: na de hoopvolle jaren vijftig, waarin de Britse wiskundige Alan Turing (naar wie de prijs is vernoemd) het fundament voor AI legde, volgde een lange AI-winter met teruglopende investeringen en weinig progressie.
In die jaren studeert Hinton AI in Edinburgh, na eerder in Cambridge een graad in de psychologie te hebben behaald. Het idee van (kunstmatige) neurale netwerken zal Hinton niet meer loslaten. Zo’n netwerk, losjes geïnspireerd op het menselijk brein, bestaat uit verschillende punten die onderling zijn verbonden. Het netwerk traint zichzelf door die connecties te versterken, te verzwakken of zelfs helemaal niet meer te gebruiken.
Later, in de jaren tachtig, verhuist hij naar de Verenigde Staten, maar in het Reagan-tijdperk keert hij zijn tweede thuisland gedesillusioneerd de rug toe. Hij moet niets hebben van de financiering van AI-onderzoek door Defensie, wat dan gebruikelijk is. AI heeft niets te zoeken op het slagveld, is de overtuiging van Hinton.
Hij vertrekt naar Canada om daar te werken aan een neuraal netwerk dat wordt getraind met afbeeldingen en dat vervolgens objecten op foto’s kan herkennen. Nu vindt iedereen het volstrekt normaal als een foto-app dat doet, maar tien jaar geleden is dit nog een novum.
Google vindt het zo veelbelovend dat het 44 miljoen dollar overheeft om DNNresearch over te nemen, het bedrijf dat Hinton mede heeft opgericht. Naast zijn werk bij de techgigant blijft hij werkzaam aan de universiteit in Toronto. Als The Telegraph hem in 2017 bezoekt, draagt hij volgens de krant nog altijd alle kenmerken van de typische Britse academicus: ‘warrig haar; verfrommeld overhemd met een spervuur van balpennen in de bovenste zak en geflankeerd door een enorm, smerig whiteboard vol onbegrijpelijke vergelijkingen’.
Die voor de buitenwereld raadselachtige wiskundige formuleringen staan ondertussen wel aan de basis van krachtige toepassingen als ChatGPT en Bard (Google’s met ChatGPT vergelijkbare chatbot). Precies de komst van dit soort AI heeft Hinton nu tot nieuwe inzichten gedreven.
Op de korte termijn maakt hij zich zorgen over de stortvloed aan desinformatie die dankzij programma’s als ChatGPT over de wereld zal worden uitgestort. Deze breed gedeelde zorg wordt overschaduwd door de wat uitbundiger geformuleerde vergezichten die Hinton óók schetst, mede ingegeven door zijn recente verbijstering dat Google’s taalmodel PaLM een grap van hem kon uitleggen.
Vroeger dacht hij dat het nog decennia zou duren voordat AI het punt zou bereiken dat het slimmer werd dan mensen, maar inmiddels heeft hij zijn voorspelling bijgesteld: het zal veel eerder gebeuren. En dat kan uiteindelijk ook andere gevaren opleveren, tot aan het verdwijnen van de mensheid toe.
Dit laatste maakt hem in één klap controversiëler dan hij ooit is geweest. Met dit langetermijnperspectief begeeft hij zich in het sciencefictionkamp, vinden sommige van zijn critici. En nog erger: toen zijn AI-collega’s bij Google Timnit Gebru en Meg Mitchell al jaren geleden waarschuwden voor de grote gevaren van AI (namelijk: AI die in handen van grote multinationals onverantwoordelijk wordt gebruikt en die op basis van niet-neutrale data minderheden achterstelt), was Hinton nergens te bekennen, memoreert een andere prominente ex-Googelaar, Meredith Whittaker.
Zowel Gebru als Mitchell werd ontslagen door Google, en Hinton is nog altijd niet onder de indruk van hun waarschuwingen. Whittaker noemt zijn afscheidstournee daarom teleurstellend, maar zowel media als publiek smullen van zijn verhaal.
He said on CNN that my concerns aren’t existential risks to humanity while his are.
You know, white dudes have been the ones stoping humanity from its existential risks since day 1 while us Black women just talk about the little things that are of no consequence.
- Hinton verloor zijn eerste vrouw (Ros) in 1994 aan de gevolgen van eierstokkanker. Samen adopteerden ze eerder twee kinderen, wier zorg na 1994 in Hintons handen kwam. Een paar jaar later hertrouwde hij met Jackie, maar vorige maand overleed ook zijn tweede vrouw aan de gevolgen van kanker, op 59-jarige leeftijd.
- Zijn belangstelling voor wiskunde heeft Hinton niet van vreemden. Zijn betovergrootvader is George Boole, die halverwege de 19de eeuw als eerste een algebraïsch systeem voor logica ontwikkelde en daarmee aan de wieg stond van de computerwetenschappen. Booleaanse logica is nog altijd een begrip.
- Hinton heeft niet zo veel op met de onsterfelijkheidsobsessie van sommige van zijn AI-collega’s. ‘Ray wil onsterfelijk zijn’, zegt hij in technologieblad Wired over AI-legende Ray Kurzweil. ‘Het goede nieuws is dat we hebben uitgevonden hoe we onsterfelijke wezens kunnen maken. Het slechte is dat wij dat niet zijn.’
Om u deze content te kunnen laten zien, hebben wij uw toestemming nodig om cookies te plaatsen. Open uw cookie-instellingen om te kiezen welke cookies u wilt accepteren. Voor een optimale gebruikservaring van onze site selecteert u "Accepteer alles". U kunt ook alleen de sociale content aanzetten: vink hiervoor "Cookies accepteren van sociale media" aan.
U bent niet ingelogd
Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2023 DPG Media B.V. - alle rechten voorbehouden