Kunstmatige intelligentie Een klacht, bezwaar, subsidieaanvraag of sollicitatiebrief is zó gemaakt met een chatbot. Instanties worden daardoor overspoeld met brieven vol feitelijke onjuistheden en verkeerde aannames. AI maakt bezwaar maken makkelijker, maar gehoord worden moeilijker.
Bij het Europees Consumenten Centrum (ECC) is iets vreemds aan de hand. Europese burgers met een klacht of geschil over een aankoop of dienst kunnen zich er al ruim twintig jaar melden voor juridisch advies en bemiddeling. Maar ongeveer twee jaar geleden begon het, vertelt Martijn Witvliet, woordvoerder van het Nederlandse kantoor van het ECC. „We merkten ineens een duidelijke verschuiving in welke klachten we binnen krijgen”, vertelt hij.
De brieven bevatten plotseling meer juridische taal, werden complexer. Op het eerste oog professioneler geschreven dan voorheen. „Maar als je ze goed leest, blijken er vaak allerlei rare vergissingen in te staan: verwijzingen naar totaal verkeerde wetgeving, of rechterlijke uitspraken die helemaal niet bestaan. Het werden er ook veel meer.” Het afgelopen jaar groeide het aantal vragen aan het ECC met 30 procent.
Het is moeilijk te bewijzen, maar het kan niet anders dan dat bij veel van deze brieven AI is gebruikt om ze te schrijven, zegt Witvliet. De laatste maanden werden het er zo veel dat het ECC besloot zijn algemene e-mailadres helemaal te sluiten, omdat het de toestroom niet goed aankon. „AI overlaadt onze communicatiekanalen.” Mensen worden nu naar een gestandaardiseerd digitaal klachtenformulier doorverwezen.
Het ECC is een van de vele instanties waar dit speelt. De overvloed aan AI-post zet afdelingen van diverse overheden en bedrijven onder spanning, en dat roept maatschappelijke vragen op. Wat doet deze ontwikkeling met de toegankelijkheid van publieke instanties voor burgers? Kunnen de instanties en bedrijven de kwaliteit van hun dienstverlening wel handhaven?
Uitgeverijen melden de laatste tijd veel meer manuscripten in de mailbox. Evert de Vries, oprichter van non-fictie-uitgeverij Bot: „Meer boeken, van op het eerste gezicht betere kwaliteit – maar al snel worstel je je met heel veel moeite door allerlei beroerde AI-slop.”
Ook op HR-afdelingen waar veel sollicitatiebrieven binnenkomen die door AI zijn geschreven, neemt de AI-moeheid toe, zegt Jannes van der Velde, woordvoerder van werkgeversvereniging AWVN. „Ik hoor verzuchtingen over al die AI-brieven, veel HR-managers willen eindelijk weer eens een brief met spelfouten, van een echt mens.”
Het financiële klachteninstituut Kifid trok deze maand publiekelijk aan de bel: die instelling kreeg afgelopen jaar ook zo’n 30 procent meer klachtbrieven binnen. „Veel met duidelijke tekenen van AI-gebruik”, zegt woordvoerder Marie-Christine Reusken. „Verwijzingen naar niet-bestaande rechterlijke uitspraken, onjuiste juridische onderbouwingen. Dit bemoeilijkt de klachtbehandeling, ook omdat de inzenders van deze klachten heel overtuigd zijn van hun gelijk op basis van door AI gegenereerde, maar onjuiste informatie.”
AI kan een tool zijn die de toegankelijkheid van instanties en juridische procedures vergroot – omdat meer mensen dankzij het digitale hulpje een brief kunnen versturen. Maar door de grote toestroom van AI-teksten neemt de toegang tot veel instellingen in de praktijk juist af. Ook medewerkers van onderzoeksinstelling TNO Vector signaleren dat: „Organisaties moeten zich voorbereiden op een grotere druk op hun dienstverlening”, zeggen Annelieke van den Berg en Marissa Hoekstra, die onderzoek doen naar de betekenis voor de toegankelijkheid van overheidsdiensten. De studie loopt nog, maar beiden zien al duidelijke signalen van toenemende werkdruk voor medewerkers van die diensten, terwijl die druk vaak al problematisch hoog is.
Vooralsnog veroorzaken chatbots vooral nieuwe digitale files bij instanties. AI maakt het makkelijker om bezwaar te maken, en tegelijk moeilijker om gehoord te worden.
Sommige instanties zien zich door die files genoodzaakt AI als wapen tegen AI in te zetten. Soms naar tevredenheid, zoals bij uitzendbureau Randstad. Daar zagen ze twee jaar geleden al een enorme groei van AI-sollicitatiebrieven, waarop ze besloten de procedure te veranderen om te voorkomen dat hun arbeidsbemiddelaars voortdurend generieke AI-brieven zouden moeten beoordelen.
„We hebben toen de strategische beslissing genomen de brief als selectiemiddel te minimaliseren”, zegt Claudia van Westreenen, hoofd Performance Marketing. „Daardoor heeft de huidige golf aan AI-brieven op de arbeidsmarkt geen negatieve impact op onze instroom en kwaliteit van de selectie.” In plaats van kandidaten te dwingen een traditionele brief te schrijven, laat Randstad hen solliciteren via een AI-bot in WhatsApp. „Onze intercedenten verliezen geen tijd aan het beoordelen van op elkaar lijkende brieven, waardoor meer capaciteit is vrijgemaakt voor wat er écht toe doet: menselijke interactie met kandidaten.”
Ook klachteninstituut Kifid zet nu AI in als hulpmiddel om de grote hoeveelheid AI-inzendingen te verwerken, bijvoorbeeld bij het structureren en samenvatten van omvangrijke klachtdossiers. Dit helpt medewerkers om sneller inzicht te krijgen in de kern van een klacht, zegt woordvoerder Reusken. Bij beslissingen, uitspraken en communicatie met consumenten ligt de verantwoordelijkheid altijd bij mensen, zegt ze.
Dat AI gebruiken om AI te beheersen je op een hellend vlak kan brengen, laat Montferland zien. Die Gelderse gemeente kreeg te maken met een stortvloed aan, veelal door AI gegenereerde, bezwaarschriften tegen bijvoorbeeld de WOZ-heffing. Montferland meldde vorig jaar een toename van liefst 400 procent. Daarop lanceerde de gemeente een eigen AI-tool om die bezwaren beter te kunnen verwerken, AiBezwaar. De gemeente zelf toonde zich optimistisch over de eerste resultaten. Maar uit een test van onderzoeksinstelling Digimonitor bleek vorig jaar dat de Montferlandse bezwaarbot kinderziektes had: hij was slecht toegankelijk voor mensen met een beperking en gaf geregeld verkeerde antwoorden.
Van AI-tools is ruimschoots aangetoond dat ze vooroordelen versterken, onjuiste informatie produceren en andere problemen kunnen veroorzaken. Het is daarom zeer de vraag of AI een goed antwoord kan bieden op een probleem met AI. Bovendien ontstaat zo een virtuele wolk van AI-teksten die reageren op AI-teksten, waarbij de vraag opkomt welk mens daar nog wat aan heeft.
Met de snelle opkomst van allerlei AI-toepassingen ligt het voor de hand dat dit probleem verder toeneemt. Vooral kwetsbaar zijn organisaties met een wettelijke plicht om klachten te behandelen en ‘loketten’ waar je ongelimiteerd verzoeken en bezwaren kunt indienen, zeggen de onderzoekers van TNO Vector. Zeker als met bezwaarschriften, aanvragen of klachten geld valt te verdienen of te besparen. Maatregelen als beperking van het aantal inzendingen per persoon of verhoging van drempels voor inzendingen kunnen op sommige plekken misschien een uitweg bieden, zegt TNO-onderzoeker Annelieke van den Berg. Al lossen deze kortetermijnmaatregelen het onderliggende vraagstuk niet op. „De echte oplossing zit in verdere modernisering van overheidsdienstverlening en zorgen dat systemen zo zijn ingericht dat ze een grotere stroom aankunnen.”
Ook ligt er een verantwoordelijkheid bij de inzenders van AI-brieven zelf, oordeelde de rechtbank Oost-Brabant afgelopen maart in een opmerkelijke zaak. Bij een bezwaar tegen parkeerbelasting leek het er wel erg op dat de eiser generatieve AI als ‘juridisch adviseur’ had ingeschakeld. Zo citeerde hij uit niet-bestaande rechtszaken. De rechter verklaarde mede daarom de klacht ongegrond, en gaf de eiser een standje voor het op deze manier gebruiken van AI en het verdoen van ieders tijd. Eerder werden al eens twee advocaten verplicht op AI-cursus gestuurd nadat ze onnodig werk hadden veroorzaakt door op een verkeerde manier AI-teksten in stukken te gebruiken. Er begint dus wel iets van weerstand te ontstaan tegen dit oneigenlijke AI-gebruik.
Hoe dan ook is haast geboden bij oplossingen voor dit groeiende probleem, signaleert Martijn Witvliet van het ECC. „We merken nu dat collega’s discussies voeren met mensen die onze reactie meteen weer in een AI-bot invoeren en dan opnieuw met een heel stellig antwoord terugkomen – in plaats van dat je van persoon tot persoon kunt overleggen over wat mensen willen.”
Hij signaleert ook dat AI-bots bijdragen aan verharding van de toon. „Vroeger vroegen mensen aarzelend of ze recht hadden op compensatie, nu eisen ze meteen 50 procent terug en excuses van de leverancier. De gewenste oplossingen worden extremer.” Dan vertelt een machine waar iemand recht op heeft, gelooft diegene dat, en eist het. „Nee, ons werk is er door AI niet per se leuker op geworden.”