Een van de pioniers achter ChatGPT is de Nederlandse computerwetenschapper Durk Kingma. Een gesprek over zijn tijd bij OpenAI, waar hij samenwerkte met Elon Musk, en waarom hij is overgestapt naar uitdager Anthropic.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Noem een grootheid in de kunstmatige intelligentie en dikke kans dat Durk Kingma met diegene heeft samengewerkt. Voor het grote publiek is hij een onbekende, maar binnen de wereld van de AI is hij een naam. Misschien nog wel meer vanwege zijn wetenschappelijke onderzoek dan vanwege het feit dat hij een van de oprichters van ChatGPT-maker OpenAI is.
Voor het eerst spreekt hij uitgebreid met een journalist, in een drie uur durend interview. Over Anthropic, waar hij sinds dit najaar aan de slag is als onderzoeker. Over zijn werk bij Google, waar hij onder meer werkte aan hyperrealistische AI-video. En natuurlijk ook over zijn tijd bij OpenAI, het bedrijf van Sam Altman dat veel opwinding veroorzaakte door in 2022 chatbot ChatGPT te lanceren.
Hoe kom je als Nederlander in Silicon Valley terecht in het hart van de AI-industrie?
‘Na school twijfelde ik tussen informatica en microbiologie. Uiteindelijk koos ik niet voor biologie, omdat ik het menselijk lichaam een soort geëvolueerde spaghetticode vond. Het voordeel van informatica is dat die door ons is bedacht, volledig maakbaar én te begrijpen is. Bovendien is de vooruitgang in informatica groot vanwege de rekenkracht in computers die maar blijft stijgen. Ik verwachtte dat de mogelijkheden van computers nog flink zouden toenemen. Dat is ook uitgekomen.’
Een belangrijk moment is het mailtje dat Kingma in 2008 naar AI-pionier Yann LeCun stuurde, de Fransman die later met Yoshua Bengio en Geoffrey Hinton de Turing Award zou winnen, de belangrijkste prijs voor computerwetenschappers.
Zonder dat ze elkaar ooit hadden gezien, kreeg Kingma een onderzoekspositie aangeboden in New York. ‘Een fantastische plek’, zegt hij. ‘Voor het eerst had ik het gevoel in een omgeving te zitten waar iedereen overliep van ambitie en grote ideeën.’
Zijn invloedrijke onderzoek naar het trainen van neurale netwerken leidt jaren later tot een uitnodiging om mee te werken aan de oprichting van een geheel nieuw AI-bedrijf. Kingma neemt het vliegtuig en een dag later zit hij in een wijnboerderij in Napa Valley in Californië die is afgehuurd door Sam Altman. Als baas van techinvesteerder Y Combinator is Altman op dat moment de spin in het web van Silicon Valley.
Kingma heeft een jetlag, maar geen tijd daarin te zwelgen. Het adembenemende landschap van de Californische heuvels, de luxe locatie en het inspirerende gezelschap maken veel goed.
Wat moet ik me voorstellen bij zo’n bijeenkomst, behalve dure wijnen drinken?
‘We hadden het over de grote dingen, over de toekomst van AI en de mensheid. Maar ook: wat zijn goede onderzoeksrichtingen om ons mee bezig te houden? Het was een bizarre ervaring. Ook omdat Elon Musk erbij betrokken was, die toen nog in een positief daglicht stond. Niet veel later richtten we OpenAI op.’
Waarom vonden jullie het zo belangrijk dat er een nieuwe partij moest komen die zich bezighield met AI?
‘Het doel van OpenAI was AI te ontwikkelen die de gehele mensheid ten goede komt. Dat was ook waarom OpenAI geen winstoogmerk had. Voor mij was het een belangrijke reden om me hierbij aan te sluiten.’
Eind 2015 betrekken Kingma en zijn mede-oprichters een klein kantoor midden in Mission District in San Francisco, een van de oudste wijken. Het is een gebied met veel laagbouw en kleurrijke muurschilderingen, dat op dat moment al een transformatie heeft gemaakt van latinowijk naar trendy leefgebied met hippe kantoren. Waaronder dus OpenAI.
Het is zo’n typische werkplek van iedere willekeurige start-up: whiteboards, een karretje met wijn, fruit en snacks, rommelige bureaus en overal – ook op de ranzige bank in de hoek – mannen met hoofdtelefoons op en een Macbook op schoot.
Hoe zagen die begindagen eruit?
‘Iedereen werkte keihard, wat normaal is in Silicon Valley. Het was ook een tijd waarin we hard groeiden en veel nieuwe talentvolle mensen aannamen. Ik herinner me de periode als chaotisch, maar vooral heel interessant. Als je een goed idee had, kon je ermee aan de slag.’
Wat was de rol van Elon Musk precies?
‘Anders dan bijvoorbeeld Sam Altman was hij er niet iedere dag, maar hij kwam minstens één keer per week over de vloer in ons kantoortje. Om mee te denken, maar ook om te leren van ons. Hoe zal ik het zeggen… Musk is goed in het stellen van ambitieuze langetermijndoelen, het aantrekken van een hardwerkend en talentvol team, en efficiëntie. Als we stelden dat iets een jaar zou duren, vroeg hij: kan het niet in een maand?’
Maar?
‘Nou, Musk is natuurlijk niet de man voor fundamenteel onderzoek. Hij kon op dat vlak weinig bijdragen. Ook was hij niet de makkelijkste persoon om mee samen te werken, hij kon redelijk humeurig zijn. Ik herinner me dat we opgewonden waren over een van de eerste versies van ChatGPT. Maar toen we die aan Musk lieten zien, vond hij het niets. Dit gaat nergens heen, zei hij. Voor ons onderzoekers was dat erg teleurstellend, omdat wij wél de potentie zagen.’
Uiteindelijk verliet u in 2018 OpenAI. Waarom? Had dat met de machtsstrijd tussen Elon Musk en Sam Altman te maken?
‘Ook. Het was een nogal chaotische tijd met veel gedoe over de koers en identiteit van het bedrijf. Rond die tijd begon de discussie over de transformatie naar een onderneming met winstoogmerk. Musk wilde OpenAI onderdeel van Tesla maken, en Altman wilde het bedrijf financieren met crypto’s. Beide niet aantrekkelijk. Daarbij kwam ook dat er steeds minder tijd was voor onderzoek naar nieuwe methoden. Het ging alleen nog maar over het schalen van bestaande modellen.’
Daarna kwam u bij Google terecht. Toch besloot u dit jaar iets anders te gaan doen.
‘Ik hield mij daar vooral bezig met modellen voor het genereren van afbeeldingen en video, vooral de fundamentele algoritmen en wiskunde achter deze methoden. Die technieken kunnen machines helpen de fysieke wereld beter te begrijpen, wat uiteindelijk kan worden gebruikt door robots. Dat was mijn motivatie, maar gaandeweg bleek dat de belangrijkste toepassing vooral het genereren van realistische afbeeldingen en video’s was voor menselijke consumptie. Dat is, denk ik, maatschappelijk ongewenst. Daarom besloot ik van dit onderzoek af te stappen.’
Waarom is dat ongewenst? Vanwege het gevaar van nepbeelden die niet van echt zijn te onderscheiden?
‘Ook, maar vooral het feit dat het gaat leiden tot nóg meer entertainment. Op termijn kan iedereen met AI complete speelfilms maken. Je krijgt dus nog veel meer, en mogelijk ook verslavender entertainment, omdat het mogelijk wordt video’s te maken die op persoonlijke maat zijn toegesneden. Het gevolg is dat mensen nog meer onthecht raken van de fysieke wereld en nog verder achter hun schermpjes kruipen. Dat is niet de toekomst die ik voor mijn kinderen wil.’
De lijntjes in Silicon Valley zijn kort en het bloed kruipt waar het niet gaan kan. Kingma gelooft nog steeds in zijn oude idealen en wil met AI de wereld beter maken. Na zijn besluit bij Google te vertrekken kan hij op verschillende plekken aan de slag.
Hij kiest uiteindelijk voor het Amerikaanse Anthropic, dat in in 2021 werd opgericht door voormalige medewerkers van OpenAI, omdat ze zich zorgen maakten over het gebrek aan aandacht binnen dit bedrijf voor een veilig en verantwoord gebruik van AI. Hoogste baas daar is OpenAI’s voormalige onderzoeksbaas Dario Amodei, een oude bekende van Kingma.
Net als OpenAI of Google maakt Anthropic geavanceerde chatbots. Die van Anthropic heet Claude en geldt als een interessant en volgens sommigen beter alternatief voor bijvoorbeeld ChatGPT. Zo zou Claude minder last hebben van ‘hallucineren’, het verzinnen van onjuiste feiten.
De aandacht voor veiligheid (het bedrijf is bijvoorbeeld voorzichtiger met het uitbrengen van nieuwe modellen) is geen obligaat afvinkpuntje. Sterker nog, veel van Kingma’s nieuwe collega’s zijn nogal zwaar op de hand.
Dat is althans het beeld dat The New York Times vorig jaar schetste van de mensen die bij de uitdager van OpenAI werken: ‘Ze zijn bang – op een diep, existentieel niveau – alleen al voor het idee van wat ze aan het doen zijn: het bouwen van krachtige AI-modellen en die vrijgeven aan mensen, die ze zouden kunnen gebruiken om vreselijke en destructieve dingen te doen.’
Dat klinkt best alarmerend. Komen we zo langzamerhand inderdaad op het punt dat AI zo krachtig wordt dat we er geen controle meer over hebben?
‘Het is enorm lastig te voorspellen hoe deze technologie zich verder ontwikkelt. De meningen over de gevaren zijn dus nogal verdeeld. Persoonlijk ben ik niet heel bang voor het verlies van controle. Uiteindelijk is AI software, dus we kunnen het kneden hoe we het willen.’
Wat is dan het probleem? Anthropic bracht pas na OpenAI een chatbot op de markt. Dat was niet voor niets toch?
‘Nou, veiligheid binnen AI gebeurt niet vanzelf, je moet als ontwikkelaar constant je best doen en je niet laten leiden door haast. Als je te snel producten op de markt brengt, zijn er wel degelijk risico’s van controleverlies. Anthropic is een stuk voorzichtiger dan OpenAI. Ze doen ook veel onderzoek naar de implicaties en veiligheid. Ook naar het openen van wat de black box wordt genoemd: waarom gedraagt een model zich zoals het zich gedraagt? Waarom geeft het een bepaald antwoord?’
OpenAI was in november 2022 de concurrentie te snel af, met de introductie van ChatGPT. Anthropic en Google hadden ook chatbots klaarliggen, maar durfden het niet aan. Was OpenAI onverantwoord?
‘De wereld is niet vergaan, dus achteraf kun je zeggen dat het niet onverantwoord was. Met de kennis van nu kan je ook zeggen dat de lancering van ChatGPT goed is geweest. Het heeft de wereld duidelijk gemaakt hoe ver deze technologie is en wat je ermee kunt doen. Tot dat moment was het iets voor insiders, niet voor het grote publiek. Daarna kwam ineens de discussie over AI op gang.’
Desinformatie, verlies aan banen, energieverbruik; we horen veel over de nadelen van AI. Toch bent u uiteindelijk positief?
‘Ja, ik denk dat de voordelen op de lange termijn groter zijn dan de nadelen. Ik denk dat AI kan leiden tot een enorme productiviteitsverhoging in de economie en een versnelling van de wetenschap. Een verbetering in de gezondheidszorg en de medicijnontwikkeling, en dus onze kwaliteit van leven, is daarvan een indirect gevolg.’
Bent u niet bang dat ook bij Anthropic op een gegeven moment tempo boven zorgvuldigheid gaat?
‘Uiteindelijk gaat het om vertrouwen. En ik heb alle vertrouwen in de aanpak van Anthropic. Ze werken ook met een juridische structuur die het mogelijk maakt om in het belang van een missie te werken in plaats van alleen de aandeelhouders. Die missie is om AI te maken die goed is voor de mensheid.’
Alles over tech vindt u hier.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant