Kunstmatige intelligentie In de buurten van San Francisco waar AI-bedrijven zijn gevestigd, was deze week de spanning voelbaar. De wereldwijde discussie over mogelijk rampzalige risico’s van AI zorgt voor onrust. „We roepen het personeel op om ontslag te nemen.”
„Slam the brakes and slow the pace, we don’t want an AI race” klinkt het, terwijl de demonstranten onder politiebegeleiding een mars inzetten naar het kantoor van Anthropic aan Howard Street, San Francisco.
Er zijn maar weinig industrieën die zozeer geconcentreerd zijn binnen een paar stratenblokken als de AI-wereld. In San Francisco loop je zo van het hoofdkantoor van Anthropic naar dat van concurrent OpenAI, terwijl je langs talloze kleinere start-ups in omliggende straten komt (de meeste locals nemen trouwens eerder een zelfrijdende taxi).
Het debat over de mogelijke catastrofale risico’s van de razendsnelle ontwikkeling van kunstmatige intelligentie woedde deze week over de hele wereld. Maar de bedrijven en mensen waar het om gaat, bevonden zich vooral in een paar specifieke buurten in San Francisco. Daar was de spanning deze week bij vlagen voelbaar. Hoe verliep the week after in ’s wereld AI-hoofdstad?
3.000 dollar kost al gauw een kaartje voor het jaarlijkse Dreamforce-congres, georganiseerd door softwarebedrijf Salesforce. Dit jaar kregen de meer dan 40.000 aanwezigen, in de straten rondom het Moscone Center te herkennen aan hun badges, misschien iets meer waar voor hun geld dan verwacht.
Op dinsdagochtend is het nauwelijks drie dagen nadat Anthropic-topman Dario Amodei zijn veelbesproken oproep tot een vertraging van de AI-industrie deed. Dat leidt er toe dat Dreamforce enigszins onverwachts uitgroeit tot hét forum waarop de AI-topmannen na het weekend hun discussie voortzetten. Jensen Huang (Nvidia), Sam Altman (OpenAI) en Amodei zelf maken hun opwachting, op een congres waar het opeens helemaal niet meer gaat over de hr-software van Salesforce.
AI-veiligheid neemt alles over. In zijn optreden op woensdag zet Huang de tegenaanval in op het plan om de ontwikkeling van AI te vertragen. „Als je een product of een dienst bouwt en je bent niet zeker van […] de veiligheid, breng het dan niet uit”, zegt hij, gekleed in zijn karakteristieke leren jack, op het podium tegen Salesforce-topman Marc Benioff.
Huang, die op slechts een paar minuten rijden van het Moscone Center in een postmoderne villa met uitzicht op de Baai van San Francisco woont, maakt zijn opmerkingen nauwelijks twee dagen nadat hij in Los Angeles bij een ander evenement op het podium een telefoontje van Donald Trump kreeg. Huang nam op, en hoorde Trump zeggen dat de veronderstelde existentiële dreiging van AI een „hoax” is, iets waar Huang mee instemde.
Later op dinsdag krijgt Huang op sociale media bijval van Meta-topman Mark Zuckerberg, die wijst op de „verantwoordelijkheid” van AI-bedrijven om veilig te werken. Maar Amodei en Altman zijn het in hun sessies op Dreamforce totaal niet met hem eens. Rustiger werken was „de manier om leiderschap te tonen in de industrie en een voorbeeld te stellen”, zei Amodei in gesprek met Benioff.
Zo tekenden zich duidelijke scheidslijnen af in de AI-wereld, die in zekere zin goed te verklaren zijn. Ofschoon aan de intenties van Altman en Amodei veel getwijfeld wordt (willen ze kleinere spelers dwarszitten door om regulering te vragen?), mag het ook geen verrassing heten dat Nvidia graag tempo maakt. Het levert chips – hardware – en hoe harder de toepassing van AI groeit, hoe meer rekenkracht van Nvidia nodig is.
Één iemand zal in ieder geval heel blij zijn geweest met de discussie: Marc Benioff van Salesforce. Zijn bedrijf – de grootste private werkgever van San Francisco, gezeteld in het hoogste gebouw van de stad – staat dankzij alle aandacht voor Dreamforce helemaal op de kaart.
De hoofdkantoren van concurrenten OpenAI en Anthropic – twee kilometer van elkaar verwijderd – staan beide bekend om één ding: ze zijn niet te herkennen als zodanig. Er zijn geen logo’s, geen namen, geen bordjes bij de deur. Het enige waar je aan zou kunnen aflezen dat hier iets belangrijks gebeurt, zijn de prominent gestationeerde beveiligers die de deur en de omgeving strak in de gaten houden.
Binnen deze gebouwen hebben de oproep van Amodei en de snelle instemming van Altman veel teweeggebracht, zo bericht de Financial Times op woensdag. Volgens de krant is er bij beide bedrijven intern helemaal geen idee hoe er gereageerd moet worden op hun oproep. Verandert er nu concreet iets? Moeten werknemers anders werken? Het nieuws lijkt als een verrassing te komen.
Specifiek lijkt er een angst voor het voorstel om mensen ‘van buiten’ binnen te laten om toezicht te houden op de ontwikkeling van modellen. Amodei stelt in zijn essay zelfs voor dat deze mensen entreepasjes, laptops en toegang tot interne systemen krijgen en overal bij mogen zijn. Volgens de FT leidt dat intern tot zorgen over het lekken van de eigen technologie.
Wie de kantoren van Anthropic en OpenAI kent, begrijpt hoe radicaal het voorstel van Amodei is. Beide bedrijven zijn op meerdere plekken in de stad aanwezig, maar gelden als zeer gesloten en geven nauwelijks ruchtbaarheid aan hun aanwezigheid. Toegang is zo exclusief dat een lokale techjournalist een heel artikel wijdde aan het betreden van het gebouw, toen hij van OpenAI een keer langs mocht komen (binnen staat volgens hem een piano die zelf muziek speelt). Of het plan van de interne toezichthouders snel van de grond komt, valt nog zeer te bezien.
De AI-explosie heeft San Francisco in zekere zin van een afgrond gered. Tijdens de coronapandemie verlieten techbedrijven massaal het stadscentrum, waar leegstand welig tierde en daklozen en drugsverslaafden de boel overnamen. De boom in kunstmatige intelligentie heeft de stad de afgelopen paar jaar plotseling weer nieuw leven ingeblazen. In elk bushokje hangen nu posters vol onbegrijpelijk jargon („agentic”, AUTH, API’s, „stacks”) van AI-start-ups, en een groot deel van de bevolking werkt in de sector.
Je kunt de plek dus gerust het hol van de leeuw noemen voor anti-AI-activisten. Op donderdagochtend om negen uur verzamelen enkele tientallen demonstranten zich bij het hoofdkantoor van OpenAI aan Third Street. Personeel van het bedrijf dat arriveert (opvallend vaak op flitsende fietsen), vlucht snel naar binnen, terwijl het verbaasde blikken werpt op de club.
„Dit protest is in twee dagen opgezet”, zegt Michaël Trazzi, de Franse aanvoerder van de actie en een bekend gezicht in de lokale anti-AI-scene. Dat had alles te maken met wat er afgelopen weekend gebeurde, zegt hij, en het groeiende zicht op de risico’s van AI. „We willen het personeel oproepen om ontslag te nemen.”
„Slam the brakes and slow the pace, we don’t want an AI race” (rem af, we willen geen AI-race), klinkt het, terwijl de groep onder politiebegeleiding een mars inzet naar het kantoor van Anthropic aan Howard Street. De zelfrijdende taxi’s die het straatbeeld van San Francisco domineren – en die boegeroep uitlokken bij de demonstranten – wachten keurig tot de groep voorbij is.
Anthropic blijkt een pleintje voor de deur preventief met linten te hebben afgezet, en de beveiligers van het bedrijf houden streng in de gaten dat niet op terrein van het bedrijf gedemonstreerd wordt. Iets verderop komt de groep voor de deur van Dreamforce tot stilstand. Terwijl de demonstranten verder scanderen („slechts één iemand hoeft het te bouwen om iedereen te laten sterven”), maken de bezoekers van het congres lachend foto’s.
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie