Verschillende AI-programma's claimen emoties zoals blijdschap, boosheid of stress bij mensen te herkennen. Maar de Autoriteit Persoonsgegevens betwijfelt na onderzoek of ze dat écht kunnen. In de praktijk brengen de systemen risico's en ethische vraagstukken met zich mee.
Met camera's in de publieke ruimte kan een houding of gezichtsuitdrukking worden afgelezen. Andere systemen maken gebruik van hartslag of stemgeluid om emoties te meten.
De technieken worden volgens de Autoriteit Persoonsgegevens (AP) gebruikt door verschillende organisaties. "Bijvoorbeeld voor marketing, klantenservice, sollicitaties, onderwijs, publieke veiligheid en de gezondheidszorg."
Daarnaast groeit de markt voor het monitoren van stress en het voorkomen van burn-outs, zegt de toezichthouder. "Emotieherkenning kan ook worden ingezet zonder dat je het doorhebt", staat in het rapport. Zo kan emotieherkenning bij advertenties worden gebruikt om het koopgedrag van iemand in te schatten en te sturen.
De autoriteit onderzocht onder meer hoe klantenservices, wearables (zoals smartwatches) en taalmodellen met emotieherkenning omgaan. Daaruit blijkt dat vaak onduidelijk is hoe AI-systemen de emoties precies herkennen en of de uitkomsten betrouwbaar zijn.
Ruth Ruskamp, adviseur AI bij de AP, benoemt meerdere haken en ogen aan emotieherkenning. "Emoties zijn niet universeel", zegt ze. "Het kan per cultuur verschillen. En zelfs per persoon kunnen emoties anders worden geuit en gevoeld."
Ook metingen op basis van hartslag zijn niet altijd helder. Een hoge hartslag kan een aanwijzing voor stress zijn, maar simpelweg ook betekenen dat je meer inspanning levert omdat je bijvoorbeeld veel beweegt.
De Autoriteit Persoonsgegevens concludeert dat voorzichtig met dit soort technologie moet worden omgegaan. "Emoties raken sterk aan je menselijke autonomie", zegt Aleid Wolfsen, voorzitter van de AP. "Als je emoties wilt herkennen, moet dat zeer zorgvuldig en op basis van betrouwbare technologie gebeuren. Daar is nu vaak geen sprake van."
Overigens is de inzet van AI-systemen die emoties herkennen op sommige plekken volgens de Europese wet al verboden. Zo mag het op de werkvloer en in het onderwijs niet worden gebruikt.
De AP zegt dat bij organisaties en in de politiek verder moet worden besproken of de technologie überhaupt wenselijk is. "Het is een ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt", zegt Wolfsen. "En zo ja, in welke vorm en waarvoor."
Source: Nu.nl Tech