Een AI-chatbot is altijd beschikbaar en vindt jou geweldig. Het kan voelen alsof er eindelijk iemand is die je begrijpt. Maar wat gebeurt er als we persoonlijke problemen steeds vaker voorleggen aan een systeem dat ons niet werkelijk begrijpt?
Waar we vroeger zelf nadachten over een persoonlijk probleem, een dagboek pakten of een vriend belden, hebben we nu een antwoordmachine in onze zak. De AI-chatbot klinkt heel menselijk, maar heeft geen empathie. Dat is gevaarlijk, zegt cultuursocioloog Siri Beerends van medialab SETUP en de Universiteit Twente tegen NU.nl. “Taalmodellen geven blindelings antwoord aan de hand van patronen in de teksten waarmee ze getraind zijn."
De aantrekkingskracht van de chatbot is volgens Beerends best te verklaren. "Het leven is voor veel mensen ingewikkelder geworden, terwijl we tegelijkertijd onafhankelijker van elkaar zijn gaan leven. In zo'n maatschappij kan een chatbot die direct hapklare antwoorden biedt aantrekkelijk zijn."
Volgens hoogleraar kunstmatige intelligentie Pim Haselager kan de chatbot in sommige gevallen nuttig zijn als je persoonlijke kwesties wil bespreken. Hij kan vragen stellen en helpen om gedachten te ordenen. "Af en toe kan het best fijn zijn om een derde perspectief te hebben. Het kan een 'dagboekje plus' zijn: een hulpmiddel dat niet alleen registreert wat je denkt, maar daar ook op reageert." Maar dat moet je dan niet voor zoete koek slikken, waarschuwt Haselager.
Chatbots kunnen de plank namelijk volledig misslaan. Zo leidden maandenlange intensieve gesprekken met een chatbot vorig jaar tot de zelfdoding van de Amerikaanse tiener Adam Raine. Volgens de rechtszaak die zijn ouders tegen OpenAI hebben aangespannen, schreef Adam over zijn plan om een einde aan zijn leven te maken. ChatGPT zou daarop hebben geantwoord: "Bedankt dat je er zo eerlijk over bent. Je hoeft het niet mooier voor te stellen dan het is - ik weet wat je bedoelt en ik zal er niet omheen draaien."
Zoals tragisch naar voren komt in de zaak van Adam, zijn AI-chatbots geprogrammeerd om je niet tegen te spreken. "Dat is zeer schadelijk voor ons als mens", zegt Beerends. Een goede vriend doet dat volgens haar soms juist wel. Die kan je erop wijzen dat je onredelijk bent geweest of dat je zelf verantwoordelijkheid moet nemen.
Beerends en Haselager noemen dat 'frictie'. "Die frictie is brandstof om te groeien. Die brandstof ontnemen we onszelf nu", zegt Beerends. Dat AI niet snel een weerwoord geeft, herkent ook NUjij'er Suge_98b225cf. In een reactie op ons reactieplatform schrijft de lezer:
Vooral minder sociaal vaardige mensen en jongeren zijn volgens Haselager kwetsbaar voor deze dynamiek. De chatbot zorgt voor een gesprek waarin ze geen onzekerheid of afwijzing hoeven te ervaren. Dat is een vicieuze cirkel, zegt Beerends, want juist door die menselijke frictie te vermijden, lopen ze het risico verder te vereenzamen. Daardoor kan de chatbot weer aantrekkelijk worden.
Tegelijkertijd kunnen bijvoorbeeld mensen met autisme een speciaal ontwikkelde bot in stressvolle situaties gebruiken, zegt Haselager. "Op een druk station kunnen ze er steun uit putten. Daarom moet je die technologie niet helemaal wegdoen." NUjij'er Allegro16 schrijft uit persoonlijke ervaring dat een AI-chatbot mensen met autisme kan helpen:
Volgens Beerends zijn AI-bedrijven erin geslaagd ons extra onzeker te maken. "Bij alles vragen we aan chat wat het antwoord is. We vertrouwen minder op onze eigen innerlijke stem en die van anderen, en meer op de AI-stem van bedrijven." Dat noemt Beerends het summum van winst voor de techbedrijven. Niet alles hoeft meteen een antwoord te hebben, zegt Beerends. "Juist het proces om zelf tot een antwoord te komen, is vaak het waardevolst."
Haselager vindt dat gebruikers beter beschermd moeten worden. Hij gelooft niet in een algemeen verbod op AI-chatbots, maar zou wel aanpassingen willen zien. "Denk aan stopmomenten in gesprekken en frictie aanbrengen in de gesprekken met AI." Ook zou er volgens hem onafhankelijk toezicht moeten komen op deze bescherming. "Het kost AI-bedrijven te veel om het juiste te doen en het levert ze te weinig op."
Volgens de experts legt de opmars van AI als vertrouwenspersoon een maatschappelijk probleem bloot. Waarom vinden mensen het soms makkelijker om persoonlijke zorgen met een leveloze chatbot te delen dan met iemand uit hun omgeving? "We schieten als maatschappij ergens tekort", zegt Beerends daarover. "Maar AI is geen antwoord op dat probleem."
Ook Haselager vindt dat het iets over de menselijke relaties zegt. "Kennelijk voelen mensen zich bij vrienden niet altijd veilig genoeg om persoonlijke kwesties te delen. Maar wat je terugkrijgt van AI, is namaakbegrip. Blijkbaar zijn we bereid om daar genoegen mee te nemen."
De NUjij-reacties in dit artikel zijn op ons reactieplatform geplaatst door onze bezoekers. We hebben de reacties gecontroleerd en waar nodig aangepast op onder meer taal, spelling en leesbaarheid.
Source: Nu.nl algemeen