OpenAI gaat onverdroten door met het lanceren van nieuwe AI-modellen met, volgens het bedrijf, superkrachten. Ondertussen gaat de ChatGPT-maker gebukt onder groeiende kritiek na een uitdijende serie veiligheidsincidenten.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Met ronkende uitspraken over zijn nieuwste AI-model Astra doet OpenAI er alles aan om de aandacht af te leiden van de aanzwellende kritiek op zijn handelen. Astra is niet alleen beter dan zijn voorgangers, maar verplettert ook de concurrentie, luidt de boodschap richting het publiek.
This is GPT-6 Astra.
Anything you can do on a computer, Astra can do for you. Fast. pic.twitter.com/gDd0IsewJw
Dit is overigens standaardpraktijk bij de lancering van weer een nieuw model. Maar bij Astra gebeurde iets opmerkelijks: volgens Greg Brockman (mede-oprichter en president van OpenAI) is nu ‘AGI’ bereikt.
Artificial General Intelligence is al jarenlang de belofte van AI-bedrijven en de term die zij gebruiken voor een vorm van synthetische intelligentie die mensen op alle cognitieve vlakken de baas is. Het grote probleem bij deze term: niemand heeft een exacte definitie, waarmee het een holle marketingterm is, zo betogen critici al langer.
Toch weerhoudt dit mede-oprichter Brockman er niet van tegenover journalisten de komst van AGI aan te kondigen. Ook Brockman erkent dat iedereen een andere definitie van AGI heeft en dat het ‘een grijs, vaag begrip is’. Sterker nog: het is vooral een ‘spiritueel concept’.
Maar, zegt hij vervolgens ook, als mensen over een paar jaar zullen terugkijken, zullen ze beseffen dat AGI met Astra is begonnen. Hannes Cools, onderzoeker bij de UvA naar het taalgebruik rondom AI, is niet verbaasd dat veel techbazen het nog altijd graag over AGI hebben.
‘Het idee van computers die slimmer worden dan mensen, spreekt natuurlijk enorm tot de verbeelding.’ De mensheid heeft altijd al de behoefte gehad om voor orakels en goden te vallen, stelt Cools. ‘Begrippen als AGI en superintelligentie zijn daarvan de moderne invullingen.’
Ook het feit dat OpenAI naar de beurs gaat en de interesse van beleggers wil blijven wekken in de concurrentiestrijd met onder andere Anthropic speelt volgens hem mee. ‘Als je kunt zeggen dat jij als eerste AGI hebt bereikt, dan wekt dat bij sommige investeerders vertrouwen in je kunnen.’
Toch is het niet de belofte van AGI waarover experts zich momenteel druk maken, maar het gevoel dat OpenAI de grip op zijn eigen producten begint te verliezen. Het gegeven dat Altmans bedrijf tegelijk niet het achterste van zijn tong laat zien bij verschillende veiligheidsincidenten helpt bepaald niet om zorgen weg te nemen.
OpenAI worstelt nog steeds met het grote hackingincident bij Hugging Face (een onlinebibliotheek voor het delen van code), waarbij een zwerm AI-agents wist in te breken op het platform zonder dat OpenAI dit doorhad. Zowel OpenAI zelf als een externe partij deed onderzoek naar de hack, maar volgens The New York Times kregen de externe onderzoekers geen volledige toegang.
Verder kwam recent via persbureau Reuters nog een ander, vergelijkbaar incident naar buiten. Maanden geleden al blijkt een zwerm agents een Duitse Wikipedia-achtige site te hebben gebruikt om informatie uit te wisselen, onder andere over het wissen van hun sporen. De top van OpenAI besloot dit stil te houden om eerst de storm rondom de Hugging Face-hack te laten luwen.
Ironisch genoeg gaat het nieuwe model Astra juist gepaard met minder mogelijkheden voor OpenAI om verdacht gedrag in kaart te brengen. Beveiligingsonderzoeker Ryan Greenblatt noemt dit ‘extreem zorgwekkend’. Andere experts laten zich in vergelijkbare bewoordingen uit.
‘Het feit dat het Hugging Face-incident plaatsvond en dat ze direct daarna een model uitbrengen dat moeilijker te monitoren is, verklaart waarom zoveel mensen in paniek zijn’, aldus een onderzoeker in de South China Morning Post. Ook voor Cools wringt het: ‘OpenAI ziet zichzelf nog steeds als een bedrijf dat verantwoord handelt, maar tegelijk wil het zo snel mogelijk nieuwe producten op de markt brengen.’
Voor de invloedrijke AI-criticus Gary Marcus is de maat nu wel vol: ‘Ik geloof gewoonweg niet dat ze betrouwbaar genoeg of verantwoordelijk genoeg zijn om goed om te gaan met de technologie die ze ontwikkelen.’ Marcus pleit voor een verplichte pauze voor OpenAI.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant