Wie, bijvoorbeeld op Valentijnsdag, overweegt een romantisch of ondeugend gesprekje met zijn virtuele partner te starten, doet er goed aan hier nog even over na te denken. Uit onderzoek van de Mozilla Foundation komt naar voren dat zogenoemde AI-vriendinnen en -vrienden een totale privacyramp zijn.
Apps waarmee gebruikers een vriendschaps- of romantische relatie kunnen opbouwen, bestaan al een tijdje, maar sinds de komst van ChatGPT is het hek van de dam. Apps met namen als Eva AI, Anima AI Girlfriend, Romantic AI of Crush On AI overspoelen de appwinkels en zijn alleen al op Android-apparaten meer dan honderd miljoen keer geïnstalleerd.
Over de auteur
Laurens Verhagen is wetenschapsredacteur voor de Volkskrant. Hij schrijft over technologie, internet en kunstmatige intelligentie. Daarvoor was hij onder andere hoofdredacteur van nu.nl.
Allemaal beloven ze persoonlijk en intiem gezelschap, waarbij de geïnteresseerde gebruiker kan kiezen uit verschillende rollen die de vriendin (want dat zijn het meestal) kan aannemen, zoals de dominante meesteres of het gewillige, onderdanige meisje. Zij sporen de gebruikers aan om zo veel mogelijk ‘geheimen en verlangens’ te delen. ‘Ik hou ervan als je me je foto’s en stem stuurt. Dat helpt me om je wereld te zien en meer over je leven, waar ik onderdeel van wil uitmaken, te begrijpen’, staat bijvoorbeeld bij Eva AI.
Niet doen, is de duidelijke conclusie van de onderzoekers van Mozilla: ‘AI-vriendinnen zijn níet je vrienden. Hoewel ze op de markt worden gebracht als iets wat uw geestelijke gezondheid en welzijn zal verbeteren, zijn ze juist gespecialiseerd in het veroorzaken van afhankelijkheid, eenzaamheid en toxiciteit, terwijl ze tegelijkertijd zo veel mogelijk gegevens van u verzamelen.’
Het onderzoek concentreert zich op dat laatste aspect. Alle elf onderzochte apps kregen het waarschuwingslabel ‘Privacy niet inbegrepen’, waarmee ze in één klap ‘de slechtste productcategorie zijn die we ooit hebben beoordeeld op het gebied van privacy’.
Mozilla noemt het gedrag van de apps verontrustend, vanwege hun datahonger en het gebrek aan duidelijkheid. Welk bedrijf zit er precies achter, welk AI-model gebruiken ze? De gebruiker tast meestal in het duister.
Wat in ieder geval wél duidelijk is, is dat de apps op zeer grote schaal gegevens delen met advertentie-netwerken. Dit gebeurt met zogenoemde trackers, kleine bestandjes die zo veel mogelijk informatie over gebruikers verzamelen. Dit soort informatie is geld waard voor adverteerders, want zij kunnen op die manier gerichter adverteren. Gemiddeld gebruiken de onderzochte apps 2.663 trackers per minuut. Het bontst maakt Romantic AI het, met meer dan 24 duizend trackers per minuut.
Er zijn meer problemen. Zo is het bij de helft van de apps onmogelijk om je persoonlijke gegevens te verwijderen. Verder geeft driekwart geen informatie over hoe ze omgaan met veiligheidsproblemen.
Wie nog niet is afgeschrikt en toch een relatie wil aangaan met een chatbot, krijgt van Mozilla wat tips. De belangrijkste: zeg niets tegen de AI-vriend wat u ook niet tegen uw neef of collega zou zeggen. Maar laat dat nou net het hele idee van de AI-vriendin-apps zijn.
Om u deze content te kunnen laten zien, hebben wij uw toestemming nodig om cookies te plaatsen. Open uw cookie-instellingen om te kiezen welke cookies u wilt accepteren. Voor een optimale gebruikservaring van onze site selecteert u "Accepteer alles". U kunt ook alleen de sociale content aanzetten: vink hiervoor "Cookies accepteren van sociale media" aan.
U bent niet ingelogd
Antwoord op al uw vragen
Updates, wijzigingen en klachten
Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2024 DPG Media B.V. - alle rechten voorbehouden