Als Europarlementariër hielp Kim van Sparrentak ChatGPT in de AI-wet te krijgen. Maar de AI-wet is nog niet in werking getreden, of er verschijnt alweer een nieuwe versie van de chatbot. Hoe wil zij, als herkozen Europarlementariër, deze innovatie bijbenen, zonder die te belemmeren?
‘Er was eens, in een wereld die niet veel verschilt van de onze, een robot genaamd Byte. Byte was nieuwsgierig, altijd op verkenning’, zegt een vrouwelijke stem uit een speaker. Op het podium zit een man die haar had gevraagd om een verhaaltje voor het slapengaan. Hij onderbreekt haar: ‘Ik wil meer emotie in je stem. Iets meer drama.’ Prompt begint de stem opnieuw – ernstiger dit keer, met een stem als uit een filmtrailer.
Zo demonstreerde OpenAI onlangs de nieuwste versie van ChatGPT. Gebruikers kunnen met tekst, audio en video communiceren met de chatbot, die met overtuigende menselijke emoties terugpraat. Trots legde OpenAI-bestuursvoorzitter Sam Altman de vergelijking met Her, een film waarin een man een relatie krijgt met een chatbot. Commentatoren reageerden bezorgd door Altman erop te wijzen dat de film is bedoeld als een waarschuwing, niet als aanmoediging: de fictieve relatie is uiteindelijk diep teleurstellend. Altman reageerde niet op de kritiek.
Over de auteur
Frank Rensen is wetenschapsjournalist en schrijft voor de Volkskrant over technologie, van cybersecurity en wetgeving tot games en cryptovaluta.
Een reactie waar hij vermoedelijk nauwlettender op let is die van een politicus als Europarlementariër Kim van Sparrentak (34, GroenLinks): het was mede háár mening over ChatGPT die ervoor zorgde dat de wereldberoemde AI in de Europese AI-wet belandde, vlak voor de deadline en tegen de wensen van de machtige Brusselse techlobby in.
‘De nieuwe chatbot kan de mens nóg beter nabootsen, met scherpe reacties, aarzelingen en lachjes. Dit is leuk, maar ook zorgwekkend’, zegt Van Sparrentak. ‘Nu wordt het nog makkelijker om het verschil tussen echt en nep te laten vervagen en desinformatie de wereld in te slingeren.’ Als ouders ’s avonds tv kijken terwijl hun kinderen worden voorgelezen door een AI, weten die ouders dan nog wel wat hun kinderen ’s avonds te horen krijgen? Gaan kinderen alles geloven wat die AI-systemen vertellen?’
Doordat AI-toepassingen als ChatGPT in de AI-wet zijn meegenomen, moeten toezichthouders onder de motorkap kunnen kijken bij de chatbot, bijvoorbeeld om te zien of het door de gebruikte trainingsdata geen historische feiten met complottheorieën verwart. ‘Ik ben benieuwd of dat wel genoeg zal blijken’, zegt Van Sparrentak.
De AI-wet is slechts één in een reeks wetten die de EU in het afgelopen jaar publiceerde. Andere voorbeelden zijn de Digital Markets Act (DMA), gericht op het inperken van de monopolies van techgiganten als Google en Amazon, of de Digital Services Act (DSA), die strengere eisen stelt aan platforms als Instagram en X om desinformatie te bestrijden. Op het gebied van techregulatie zet Europa met deze wetten wereldwijd de toon, maar volgens Van Sparrentak zijn de belangrijkste stappen nog niet gezet. De Volkskrant sprak de herkozen Europarlementariër om zicht te krijgen op de Europese techwetgeving van de toekomst.
Wetten over AI, desinformatie, sociale media, de digitale economie – je zou haast denken dat we er dan wel zo’n beetje zijn. Waarom is dat niet zo, in uw ogen?
‘We hebben eigenlijk pas recentelijk de draad weer opgepakt, met het schrijven van techwetgeving. De laatste Europese internetwet was al bijna 25 jaar oud toen de AI-wet, DMA en DSA verschenen. Al die jaren heeft de Europese Unie digitalisering en innovatie overgelaten aan de markt. Dat leverde polariserende algoritmen op, verslavende apps en maakte onze digitale infrastructuur afhankelijk van Amerikaanse monopolisten als Google, Microsoft en Amazon. Er is dus nog veel in te halen.
‘De nieuwe wetten doen veel, maar zijn hier en daar tandeloos. Zo is de DSA onder meer ontworpen om desinformatie op sociale media te bestrijden. De aanslag van 7 oktober van Hamas op Israël was hét moment voor de DSA om zich te bewijzen, maar alsnog stroomden de socials vol met desinformatie. Ik kreeg zelf ook voortdurend hetzelfde filmpje van jonge kinderen in een kooi te zien, met berichten erbij dat Hamas zo Israëlische kinderen gijzelde (de kinderen in de video bleken later niet Israëlisch te zijn, de originele video was een aantal dagen voor de aanslag opgenomen, red.). Toch kreeg ik die berichten te zien, precies wat de DSA had moeten voorkomen. De Eurocommissaris en het DSA-handhavingsteam zeggen nu niet genoeg in handen hebben om hier echt op te handhaven.’
Wat moet er veranderen?
‘We moeten af van het verdienmodel achter de aandachtseconomie. Bedrijven strijden met elkaar om onze aandacht, en het is in mijn ogen bizar dat we dat zomaar toestaan. Begrijp me niet verkeerd: veel apps die we nu hebben zijn waardevol – ik wil ook weleens brak eten kunnen bestellen vanuit bed en de hele avond doomscrollen. Wat ik wil, is dat apps niet per definitie misbruik maken van je aandacht.
‘Ik gebruik bijvoorbeeld veel sociale media, te veel misschien. Instagram, vooral. Ik gebruik mijn telefoon als wekker, dus ik word er elke dag mee wakker. Voor ik het weet ben ik dan aan het scrollen, dus ik ben net zo goed slachtoffer van de verslavende algoritmen. Ik merk ook dat het invloed heeft op mijn aandachtsspanne. Ik pakte laatst mijn telefoon erbij om naar een pilletje tegen hooikoorts te zoeken, toen mijn vriendin na een kwartier vroeg of ik al wat had gevonden. Dat had ik niet– ik had zonder het door te hebben Instagram geopend en was volstrekt vergeten naar die pil te zoeken.
‘Aandacht is te waardevol om zomaar weg te geven, om bedrijven de race met elkaar aan te laten gaan om de meest verslavende app neer te zetten. Toen TikTok op het toneel kwam met verslavende, korte filmpjes, verschenen er op Instagram en YouTube bijna meteen ‘Reels’ en ‘Shorts’, die precies hetzelfde doen. Het bedrijf dat de aandacht van gebruikers het langst vasthoudt, wint.’
Je kan zeggen dat dat gezonde competitie is: wie de leukste app maakt, heeft de meeste gebruikers.
‘Daarom wil ik de apps zelf ook niet verbieden, maar het achterliggende verdienmodel, omdat dat allerlei problemen veroorzaakt: polarisatie, de slinkende aandachtsspanne, telefoonverslaving en inbreuk op de privacy. Ik heb hier veel contact over gehad met Frances Haugen, de Facebook-klokkenluider: zij liet de wereld zien dat Facebook gebruikers bewust berichten toont die sterke reacties zoals afkeer of angst oproepen, puur om meer schermtijd en interactie af te dwingen. Haugen vertelde me dat Facebook ooit experimenteerde met een neutralere berichtenstroom, die zo nu en dan ook gewoon de lunch van je buurvrouw laat zien. Het werkte goed, was minder polariserend, maar leverde Facebook minder geld op, en is daarom nooit geïmplementeerd.
‘Je kan dit en andere problemen in één klap bij de bron oplossen door de aandachtseconomie te reguleren. Ik wil wetten die de oneindige scroll van apps en het verzamelen van persoonsgegevens voor gepersonaliseerde reclames verbieden. Niet-verslavende versies van apps moeten de standaard worden en handhavers moeten toegang krijgen tot de dashboards van sociale-mediaplatforms om te zien of hun algoritmen ethisch in elkaar zijn gezet.
‘Dit kan prima via het consumentenrecht, de expertise van de EU. In Europese wetten staat dat consumenten niet mogen worden misleid, bijvoorbeeld met onleesbaar kleine lettertjes op producten. Maar vergelijkbare regels gelden nog niet voor digitale producten zoals TikTok of Instagram, terwijl die ons evenzeer misleiden en manipuleren. Ze misbruiken je menselijke aard: je maakt graag opdrachtjes af en bent dus niet opgewassen tegen een oneindige scroll; je bent een sociaal dier en wilt dus graag ‘geliked’ worden.
‘Platforms zijn nu vrij om hier keuzen over te maken. Het is veel logischer dat techbedrijven moeten aantonen dat hun producten niet schadelijk zijn, voordat ze op de markt verschijnen – net als voor andere producten in Europa.’
Een verschil tussen producten uit de techsector en andere producten is misschien dat innovatieve gadgets en apps hun charme juist ontlenen aan het feit dat ze iets doen waar nog niemand, ook wetgevers niet, aan had gedacht. Hoe pak je dat aan, het schrijven van wetgeving voor technologie die nog niet bestaat?
‘Door niet de technologieën zelf te reguleren, maar de risico’s die ze introduceren. Zo hebben we dat met de AI-wet ook aangepakt. Het maakt niets uit wat voor model je gebruikt, alleen relevant is waarvoor je het gebruikt. In een juridisch proces? Zorg er even voor dat het niet bevooroordeeld is. In een kerncentrale? Maak dan eerst maar hard dat het niet kan falen. Op die manier blijf je ontwikkelingen voor.
‘Maar dan nog: dat een bedrijf het status quo opschudt, ‘disruptief’ is zoals je zegt, betekent niet dat ze buiten de wet staan. Neem een Uber. Dat waren echt stereotiepe coole boys uit Silicon Valley die zeiden: ‘Wij gaan iets vets doen, het is innovatief en niet te vergelijken met wat dan ook. Move fast, break things.’ Zo palmden ze de politici in die hen in de gaten hadden moeten houden. En inderdaad, politici hebben jarenlang een oogje toegeknepen over hoe Uber-chauffeurs zijn uitgebuit met onrechtmatige zzp-contracten.
‘Hippe tech-startups creëren telkens een soort schwung om zich heen waardoor handhavers niet willen handhaven, om innovatie te beschermen. Dat is het standaardargument van lobbyisten. Maar natuurlijk is zulke uitbuiting verboden, zoals we met de nieuwe wet omtrent platformarbeid stellen. Innoveren betekent niet dat je de wet mag overtreden.’
Geselecteerd door de redactie
Ook weleens verfrissend: Apple Intelligence is dienstbaar, op het saaie af
Diskwalificatie voor prijswinnende fotograaf die echte foto instuurt bij AI-wedstrijd
Zet Apple de AI-concurrentie in één klap op achterstand met ‘Apple Intelligence’?
Source: Volkskrant