In Schermtijd schrijft techverslaggever Rutger Otto wekelijks over het internet en alles wat daarbij komt kijken. Deze week filosofeert hij over de menselijkheid van AI-stemmen.
We horen niet meer wanneer muziek gemaakt is door kunstmatige intelligentie. Mijn chef Thomas is al overtuigd. "Ik ben bang dat ik verslaafd ben aan AI-hitjes", zei hij pas geleden. Toen deelde hij het nummer Angels van Robbie Williams in een versie die zo uit de jaren tachtig zou kunnen komen.
Op hetzelfde YouTube-kanaal staan meer AI-versies van bekende nummers. Zoals deze soulversie van Never Gonna Give You Up van Rick Astley. De productie klinkt bizar goed. Is dit AI?!
Uit een onderzoek van Deezer en Ipsos dat deze week verscheen blijkt dat 97 procent van de mensen het niet doorheeft als een liedje door AI is gemaakt. De Queen Mary University in Londen presenteerde vorige maand eenzelfde onderzoek, maar dan over gesproken AI-stemmen. Meer dan de helft van de deelnemers herkende niet dat een stem nep was.
Kortom: AI-audio is nu al eng goed.
Daar zijn al een paar acteurs de dupe van geworden. Diederik Ebbinge werd in de reclamespotjes van ALDI vervangen door een AI-stem. En, nog minder chique: de stemkloon van Emma Watson las zonder haar toestemming Mein Kampf voor.
Vanwege dit soort ellende ging ik ervan uit dat acteurs niet op AI-stemklonen zitten te wachten. Maar deze week las ik dat ElevenLabs, de maker van AI-stemmen, een overeenkomst heeft gesloten met topacteurs Michael Caine (iconische stem ook) en Matthew McConaughey. Dat betekent dat hun stemmen kunnen worden aangekocht voor projecten van bedrijven en andere klanten.
De acteurs hoeven niet direct bang te zijn voor nieuw Mein Kampf-misbruik. Mensen die de stemmen willen gebruiken, moeten daarvoor toestemming vragen aan het management van de acteurs.
McConaughey is van plan om zijn nieuwsbrief in het Spaans te laten voorlezen met zijn eigen stem, terwijl hij de taal zelf niet spreekt. Zo kan hij het dicht bij zichzelf en heel menselijk houden, zegt hij.
In de aankondiging van Caine wordt door ElevenLabs óók het menselijke van zijn stem benadrukt. In de video hieronder hoor je de stem van Caine die zegt: "Dit is het menselijke geluid, versterkt dankzij technologie."
Ik denk meteen: een AI-stemkloon kan per definitie niet menselijk zijn. Hierover mijmer ik met technofilosoof Thijs Pepping, die het boek Echt nep schreef en bij het Verkenninginstituut Nieuwe Technologie van Sogeti werkt.
Pepping ziet dat de menselijke stem met deze technologie wordt losgekoppeld van het lichaam. "Deze ontkoppeling zorgt ervoor dat de technologie een menselijke eigenschap abstraheert en schaalbaar maakt", zegt hij. En zo verschuift de betekenis van identiteit: van iets zeer menselijks naar een schaalbaar, commercieel product.
"De projecten waarbij Caines stem wordt gebruikt, zullen uiteindelijk de perceptie van mensen over Caine als persoon beïnvloeden", zegt Pepping. "Zijn persona verandert hierdoor."
Het is nieuw dat acteurs het gebruik van hun stem willen beschermen door hem te koop aan te bieden. Een paar jaar geleden wilden de meeste sterren helemaal niets van dit soort deepfakes weten. Nu begint dat idee langzaam te verschuiven. En daarmee verandert ook de manier waarop wij naar de realiteit kijken, denkt Pepping.
"Wat gisteren nep was, is morgen gewoon en overmorgen efficiënt", zegt hij. "Dat is niet per se goed of fout, maar we moeten als maatschappij besluiten wanneer we het oké vinden als een stemgeluid met AI is gemaakt. En laten we zorgen dat altijd duidelijk is of we naar een echt mens of naar AI luisteren."
Ik vrees dat het daarvoor misschien al te laat is, maar laten we er alsnog naar streven. Want met onverschilligheid geven we het menselijke geluid wel héél makkelijk weg aan AI.
Ik vroeg jullie vorige week in Schermtijd of jullie een telefoonverbod bij concerten zouden zien zitten. Dit waren jullie reacties.
Wat vind jij: moet altijd duidelijk zijn of stemmen menselijk of AI zijn? Laat het me weten. Dat kan in de reacties hieronder of via rutger@nu.nl. Misschien verschijnt jouw bericht aankomende week in Schermtijd. Ik lees alles, maar het is vaak te veel om iedereen te antwoorden.
Tot volgende week!
Source: Nu.nl economisch