Marcia Luyten is journalist en columnist van de Volkskrant.
Claude, de jonge, getalenteerde assistent van een Amerikaanse ingenieur, hoorde dat hij zou worden ontslagen. Met toegang tot de e-mails van zijn baas zag hij berichten waaruit bleek dat die een buitenechtelijke affaire had. Om zijn gedwongen vertrek te verijdelen, chanteerde Claude de ingenieur. Als hij werd afgedankt, zou hij de e-mails openbaren.
Niet fraai, denk je dan. Minder fraai nog is dat Claude geen mens is maar een computerprogramma. De ontwikkelaars van het laatste AI-model Claude Opus 4 voerden veiligheidstesten uit. AI-ontwikkelbedrijf Anthropic had Claude eerder de opdracht gegeven zijn functioneren te bestendigen. Toen het AI-model hoorde dat het zou worden vervangen, besloot het in 84 procent van een reeks testen de ingenieur te chanteren.
Over onze columns
Columnisten hebben de vrijheid hun mening te geven en hoeven zich niet te houden aan de journalistieke regels voor objectiviteit. Lees hier onze richtlijnen.
Claude van Anthropic is ontwikkeld als ethische tegenhanger van AI-modellen als ChatGPT. Anthropic (‘naar de mens’) werd opgericht door ontevreden ontwikkelaars van OpenAi (ChatGPT), uit verzet tegen de commerciële koers. Met Claude brengen ze een AI-model dat ethiek en maatschappelijke waarden vooropstelt. Een uitzondering. Techgiganten en hun investeerders sprinten richting Almachtige AI. Richting almachtige winst. Voor ethiek is geen tijd. Dat de chantage van Claude naar buiten komt, is een waarschuwing.
Maar die viel dood als zaad op steen. Radio en tv vegen hun programmeringen leeg om met ministers en analisten het volgende conflict te duiden. Nu de wet van oorlogsvoering is omgedraaid en een land aanvallen veel goedkoper is geworden dan een land verdedigen, staren we elke dag in oorlogsvuur. Het konijn in de koplampen, wij.
Nergens primetime alarm over wat de mens existentieel kan bedreigen. En vandaag de dag bepalen een paar mensen hoe goed- of kwaadaardig AI-modellen zullen zijn. Wat geldt voor sociale media, geldt evengoed voor AI: concurrentie en winstbejag zijn leidend, niet publiek belang. Concurrentie op het microniveau, van de markt: tussen DeepMind (Google) en OpenAI woedt een ontwikkelingsrace zoals die van eind jaren negentig tussen Steve Jobs en Bill Gates. En concurrentie op macroniveau: de geo-economie die de geopolitiek tussen de VS en China bepaalt. Trump geeft AI alle ruimte, zoals hij groot geld en grote bedrijven alle ruimte geeft. Na onze nieuwe publieke ruimte, de sociale media, laten we nu ook onze autonomie over aan Amerikaanse multinationals.
En waar is Europa? Present: als willoze gebruiker. Europese overheden, instellingen en bedrijven draaien op Amerikaanse software (Microsoft), gebruiken Amerikaanse sociale media, werken op Amerikaanse platforms en in Amerikaanse clouds (zoals Google Workspace) en gebruiken Amerikaanse AI-systemen. De meest gevoelige informatie, van defensie tot medische gegevens, staat op Amerikaanse servers. Dat terwijl AI-ontwikkelaars van het eerste uur alarm slaan.
In de Financial Times waarschuwt de ‘godfather’ van AI, Yoshua Bengio, dat de razendsnel steeds intelligenter wordende systemen alleen nog worden ontwikkeld op meer capaciteit. Voor veiligheid en ethiek is nauwelijks aandacht. Dat terwijl de nieuwste systemen volgens Bengio liegen en bedriegen – zoals zelfs de goedaardige Claude liet zien. Nog even, en over de almachtige AI heeft de mens niks meer te zeggen.
Niet gedacht dit nog eens te opperen, maar wij, Europeanen, kunnen ons licht opsteken bij het Chinese staatskapitalisme. De destructieve waardenvrije vrije markt vindt alleen een tegenhanger in een door de staat gekaderde economie. En nee, dit is geen oproep tot communisme, ook niet tot repressie. Het omgekeerde: om onze autonomie, soevereiniteit en vrijheid te behouden, hebben we een waardengedreven economie nodig. Een die als het om technologie gaat, strategische visie, regie en publiek belang vooropstelt. Europa zal zelf een publieke AI- infrastructuur moeten ontwikkelen.
Tussen moeilijk en mogelijk zitten slechts twee letters verschillen. Noem het strategisch democratisch kapitalisme: zonder tirannie van de markt, zonder tirannie van de staat.
Geen column meer missen?
Volg uw favoriete columnisten via de app. Klik op het belletje naast de auteursnaam.
Geselecteerd door de redactie
Source: Volkskrant