Met zijn chatbot Claude bevindt Anthropic zich in de voorhoede van de AI-race. Aan het roer staat Dario Amodei, die vijf jaar geleden concurrent OpenAI verliet uit diepe onvrede over de koers en nu hard botst met het Pentagon.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Dario Amodei (1983) is er niet gerust op. Stel je een bedrijf met vijftig miljoen virtuele werknemers voor die slimmer zijn dan elke Nobelprijswinnaar, die honderd keer sneller werken dan mensen en ook nog eens 24/7 beschikbaar zijn.
Gaat dat wel goed, vraagt de topman en oprichter van het succesvolle Amerikaanse AI-lab Anthropic zich hardop af in zijn lijvige essay The Adolescence of Technology. Het ongemakkelijke antwoord: niet per se. Kunstmatige intelligentie staat op het punt om volwassen te worden, maar het is onzeker of we de wijsheid en het karakter hebben om onszelf niet te vernietigen tijdens deze overgang.
En toch bouwt hij met Anthropic aan precies deze technologie. Maar waag het niet om hem in het kamp van de ‘doomers’ te stoppen, mensen die ervan overtuigd zijn dat AI zal leiden tot het einde van de mens.
‘Uiteindelijk waarschuw ik niet voor deze dingen om een doemprofeet te zijn, maar omdat waarschuwen de eerste stap is naar het oplossen ervan’, zei Amodei onlangs tijdens een door The New York Times georganiseerde conferentie.
Het is een wat ongemakkelijke spagaat waarin Amodei zich heeft gemanoeuvreerd. Zijn bedrijf zit in een felle concurrentiestrijd met OpenAI en Google en voelt zich gedwongen om in steeds rapper tempo nieuwe modellen uit te brengen.
Tegelijkertijd heeft Amodei de ambitie juist zorgvuldiger en veiliger te werk te gaan. Juist omdat het anders fout kan gaan. Bijvoorbeeld omdat geavanceerde AI-modellen hun eigen doelen kiezen, die niet in lijn zijn met die van mensen.
Die terughoudendheid zorgt er ook voor dat Anthropic botst met het Pentagon, dat de AI-gereedschapskist wil gebruiken zonder beperkingen. De concurrenten OpenAI, Google en xAI hebben daar geen problemen mee, maar Anthropic wel. Amodei trekt een grens bij autonome dodelijke wapens en bij binnenlandse surveillance. Dinsdag had hij daarom een afspraak met de Amerikaanse minister van Defensie Hegseth.
Het is alsof hij op hetzelfde moment moet remmen én gas geven. Dat laatste gaat overigens best goed: chatbot Claude geldt als lievelingsgereedschap onder programmeurs. Investeerders weten het bedrijf ook te vinden, gelokt door zonnige vooruitzichten. Anthropic is pas vijf jaar oud en nu al 380 miljard dollar waard. De investeringen zullen de komende jaren even ontzagwekkend zijn.
De topman schoof het afgelopen weekend aan bij de podcaster Dwarkesh Patel om bijna tweeëneenhalf uur te praten over AI. Amodei – blauw vest, donkere krullen en een wat nerveuzige blik vanachter zijn brillenglazen – praat honderduit en gepassioneerd over de huidige staat van AI.
Het gaat ongelofelijk hard, is zijn boodschap, waarmee Amodei op één lijn zit met al die andere topmannen van de grote AI-bedrijven. De AI-modellen hebben zich ontwikkeld van het niveau van een slimme middelbare scholier tot slimme student aan de universiteit, ‘en vervolgens naar iemand die begint aan een promotieonderzoek en professionele carrière’, betoogt hij.
Amodei toont zich ook wat verbolgen en verbaasd: ‘Het meest verrassende is het gebrek aan publieke erkenning van hoe dicht we bij het einde van de exponentiële groeifase zijn.’ Ook hierin toont hij zich een kind van Silicon Valley, de plek waar de woordcombinatie ‘exponentiële groei’ op ieders lippen ligt.
Het is precies ook het betoog waar investeerders dol op zijn. Maar het gaspedaal is nooit ver weg: ‘We staan onder ongelooflijke commerciële druk en maken het onszelf nog moeilijker omdat we al die veiligheidsmaatregelen moeten nemen.’ Amodei bouwt aan een ontwrichtende technologie waar hij keer op keer ook voor waarschuwt. Het is de rode draad in zijn carrière.
Amodei is geboren in San Francisco en groeit daar ook op. Zijn vader, Riccardo, is van Italiaanse afkomst en verhuist later naar de Verenigde Staten, waar hij leerbewerker is. Dario’s moeder (Elena Engel) is een Joodse Amerikaanse uit Chicago die als projectmanager voor verschillende bibliotheken werkte.
Dario heeft één jongere zus, Daniela, met wie hij in 2021 Anthropic opricht. Dario is een bijzonder intelligent jongetje dat probleemloos zijn schooltijd doorloopt. Daarna gaat hij theoretische natuurkunde studeren, maar verlegt vervolgens zijn aandacht naar biofysica. Het vroege overlijden van zijn vader speelt daarbij een belangrijke rol.
Tijdens zijn postdoctorale onderzoek wordt hij gegrepen door AI. Uiteindelijk is AI de sleutel tot het genezen van dodelijke ziektes zoals die van zijn vader, beseft hij. ‘Ik word echt boos als iemand over mij zegt: deze man is een doemdenker. Hij wil de boel vertragen’, aldus Amodei in een recent gesprek met techjournalist Alex Kantrowitz.
Hij gaat na zijn studie werken bij het Chinese Baidu en daarna bij Google. In die periode maakt Amodei zich al druk om de gevaren van AI, wat ook de aanleiding is om in 2016 in dienst te komen bij OpenAI. Op dat moment is de missie van dat bedrijf om veilige AI te maken, iets wat Amodei aanspreekt. Als onderzoeksdirecteur verricht hij belangrijk werk aan wat later ChatGPT zou worden.
Maar het professionele huwelijk met Altman is geen lang leven beschoren. In 2021 verlaat hij samen met een groep anderen (onder wie zijn zus) OpenAI om Anthropic op te richten. De reden is bezorgdheid over de commerciële koers onder Sam Altman en het gebrek aan aandacht voor veiligheid.
Amodei ziet zich als een man met een missie. ‘We hebben geen tijd te verliezen’, zo besluit hij zijn essay.
Amodei’s vertrek bij OpenAI ging gepaard met grote spanningen. Hij voelde zich ‘psychologisch mishandeld’ door Sam Altman, schrijft Altmans biograaf Keach Hagey.
Ondanks Anthropics ethische imago klinkt ook kritiek. Ook Anthropic maakt zich bijvoorbeeld schuldig aan het gebruik van grote hoeveelheden auteursrechtelijk beschermd materiaal waarvoor geen toestemming is gevraagd.
Dario Amodei laat niets los over zijn persoonlijke leven of hobby’s. Voor zover bekend heeft hij geen partner.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant