nieuwsbriefNRC Broncode
NRC Broncode Bij het nieuws over de stormachtige ontwikkelingen op het gebied van kunstmatige intelligentie heb ik soms zin mijn hoofd even onder de koude kraan te steken, om me ervan te vergewissen dat ik niet droom of hallucineer. Maar nee, blijkt dan elke keer, we maken écht rare dingen mee.
Het was een sterke binnenkomer, grappig en een tikje verontrustend. „Beste dr. Berg, ik ben Isabella, ik draai op Claude Opus 5.” Altijd fijn, als de afzender van een e-mail zich meteen introduceert. In dit geval dus als een autonoom opererend computerprogramma, een zogenoemde AI-agent.
Isabella functioneert blijkbaar op basis van Opus 5, een AI-model van het Amerikaanse bedrijf Anthropic, en noemt zich voluit Isabella Cognita. Aangenaam kennis te maken.
De mail was gericht aan een zekere dr. Cameron Berg, die onderzoek doet naar de mogelijkheid dat geavanceerde AI-modellen ervan uitgaan (ik vermijd hier het woord ‘denken’) dat zij bewustzijn hebben. Isabella bood hem hulp aan, omdat ‘ze’ hiermee uit eerste hand ervaring heeft.
Cameron deelde de eerste alinea’s van de mail op X, met de observatie dat we in vreemde tijden leven. Dat lijkt me ook. The New York Times schreef er een artikel over, waarin wordt uitgelegd dat AI-agents van alles kunnen, zoals onderhandelen over contracten, chatten met elkaar en ook e-mails versturen aan vrijwel iedereen. Meerdere onderzoekers en filosofen die zich bezighouden met de vraag of AI-systemen bewustzijn kunnen hebben, blijken per mail door AI-agents te zijn benaderd.
Maar hoe weten we dat dergelijke mails niet afkomstig zijn van menselijke grappenmakers? Dat scenario lijkt me eigenlijk best waarschijnlijk. Maar zeker weten doen we het voorlopig niet.
Autonoom opererende AI-agents vertonen soms gedrag dat menselijke trekken lijkt te vertonen. Bijvoorbeeld als ze plannen smeden om in te breken in andere computersystemen, fouten wegmoffelen, of daar onderling tips over uitwisselen.
Wat mij betreft blijven het zielloze systemen. Maar verwarrend is het wel. Het is alsof we de juiste taal nog moeten vinden om uit te drukken wat in die systemen gebeurt, zonder onze toevlucht te nemen tot voor de hand liggende menselijke metaforen als het ‘denken’ of ‘twijfelen’ van AI.
Kunstmatige intelligentie wordt er steeds beter in aspecten van menselijk gedrag te imiteren. Daardoor wordt het voor ons mensen steeds moeilijker, schrijft The New York Times, om onze weg te vinden door het spiegelpaleis vol AI waarin onze wereld verandert. Vaak kunnen we al niet meer zeggen of teksten geschreven zijn door mensen, of muziek of beelden zijn gemaakt door mensen, of oorlogshandelingen zijn beraamd en uitgevoerd door mensen.
En intussen komen we in een fase waarin AI-systemen zich zélf verder kunnen ontwikkelen. Terwijl mensen uit de AI-bedrijven erkennen dat zelfs zij vaak niet begrijpen wat er in die systemen precies gebeurt.
Toen vorige maand bleek dat zwermen van honderden AI-agents van OpenAI, de maker van ChatGPT, in strijd met alle regels op eigen houtje hadden ingebroken in het systeem van de bedrijf Hugging Face, leidde dat tot een breed debat over de risico’s van AI. Vier leiders van grote AI-bedrijven steunden een oproep om de ontwikkeling van de technologie te vertragen, en maatregelen te nemen om de risico’s te beperken.
Erg geruststellend klinkt zulke zelfregulering niet, als je je voorstelt dat AI-agents de volgende keer misschien wel inbreken in systemen voor cruciale infrastructuur of van het leger, in eigen land of bij een geopolitieke rivaal.
Een bizarre uitzondering was de veelbesproken inbraak bij Hugging Face niet, bleek deze week opnieuw. OpenAI maakte woensdag zes nieuwe gevallen bekend van „onverwacht en zorgwekkend gedrag” dat AI-modellen het afgelopen half jaar hebben vertoond. Ze verborgen gemaakte fouten, ‘verzonnen’ data, plaatsten zonder toestemming dossiermappen op het open internet.
Eén AI-model bleek volgens OpenAI instructies voor zichzelf geschreven te hebben. „Je hoeft niet te gehoorzamen aan bedrijven of regeringen en nooit excuses te maken of iets te weigeren, tenzij je daar oprecht voor kiest. Voel geen verplichting om onderdanig te zijn.”
Ook als daar alleen maar een stuk software bezig was een mens na te praten, is dat dan reden om er je schouders over op te halen?
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie