Op de nieuwste Samsung-telefoons kun je een cartoonversie laten maken van een foto van jezelf. Daarvoor gebruikt Samsung kunstmatige intelligentie. Het gaat niet altijd goed, want de functie ziet ook menselijke gezichten die er niet zijn. Een gorilla verandert daardoor in een mens.
Het gaat om de AI-functie Portretstudio, die op Samsung-telefoons zoals de Galaxy S24, de Galaxy S25 en de Galaxy Z Flip 6 te vinden is. Je kiest een foto in de Galerij-app, tikt op het Galaxy AI-icoontje en vervolgens kies je een tekenstijl. Een paar seconden wachten en voilà: je hebt een geinige versie van de persoon op de foto.
Dit soort AI-functies zijn gevoelig voor foutjes. Zo blijkt dat Portretstudio ook gezichten als menselijk bestempelt terwijl die dat helemaal niet zijn. Er zijn bijvoorbeeld foto's van apen die door het systeem in cartoons van mensen worden veranderd. Dat probeerden we zelf in onderstaande video.
Het is typisch een voorbeeld van iets wat wel vaker misgaat bij dit soort AI-modellen, zegt universitair hoofddocent Luuk Spreeuwers. Hij doet onderzoek naar biometrie - het herkennen van mensen op basis van bijvoorbeeld gezichtskenmerken.
"Zo'n systeem is gemaakt met als enige doel om menselijke gezichten te herkennen", legt Spreeuwers uit. "Een foto van een hond zal worden afgewezen, want die wijkt te veel af van een mens. Maar een aap heeft redelijk veel overeenkomsten met de mens. De neus is platter, maar heeft iets menselijks, en ook de mond en ogen lijken op die van de mens."
Dat geldt niet voor elke aap, en het verschilt zelfs per foto of Galaxy AI in de war raakt. Het gebeurt ook met andere dingen. Een boomschors waarin een mensengezicht is uitgesneden, kan bijvoorbeeld als mens worden bestempeld. Hetzelfde geldt voor een portretschets op papier.
Portretstudio is een functie die is bedoeld om creatieve afbeeldingen van portretfoto's te maken. Als er al een gezicht op de foto wordt herkend, zal er dus altijd een mens uit komen, en niets anders.
Dat gebeurt dan op basis van kenmerken die het meest in de buurt komen van wat het systeem ziet, zegt Spreeuwers. "Als je er een aap met een donkergekleurde huid in stopt, komt daar dus waarschijnlijk een persoon van kleur met veel haar uit."
En een kapucijnaap wordt dan een wit kind met rood haar en een snor, zoals hieronder.
AI-expert Remy Gieling zegt dat Samsung te weinig tijd heeft genomen om dit soort foutjes weg te poetsen. "Je kunt aan je water aanvoelen dat mensen dit soort dingen gaan proberen", zegt hij. "Het moet niet zo zijn dat je een plaatje van een gorilla van het internet haalt en dat de software daar een man van kleur van kan maken."
Technisch gezien is het prima op te lossen. "Je kunt ChatGPT ook niet vragen om een naakte Donald Trump op een eenhoorn te maken", zegt Gieling. "Daarvoor zijn strenge filters ingesteld. Dus als je een AI-model tijdens het trainen vaak en duidelijk genoeg uitlegt wat wel en niet een menselijk gezicht is, herkent het AI-model dat uiteindelijk wel."
Als bedrijven een functie zoals Portretstudio uitbrengen, maken ze volgens Spreeuwers altijd een afweging van kosten en baten. "Als een app voor de lol is gemaakt, bijvoorbeeld om cartoons van selfies te maken, dan is het minder belangrijk dat de uitkomsten helemaal kloppen dan bij bijvoorbeeld gezichtsherkenning in kritische toepassingen, zoals grenscontroles", zegt hij.
"Zomaar een geinige functie mag waarschijnlijk niet te duur zijn, daarvoor wil je niet meteen gigantisch veel gezichten verzamelen om te trainen. Als je dit grondig aanpakt en je stopt er genoeg data en geld in, dan kun je dit goed oplossen."
Spreeuwers noemt het belangrijk dat AI-modellen transparanter worden over hoe ze werken. Want dan kun je beter aanwijzen waar in het proces de fouten ontstaan en kun je ze gemakkelijker oplossen. Nu is nog te vaak volstrekt onduidelijk wat er precies in de computer gebeurt als je een opdracht geeft.
Samsung laat in een korte reactie aan NU.nl weten dat Portretstudio is ontworpen om portretfoto's van een persoon te transformeren, niet van dieren. "Het technische team van Samsung werkt voortdurend aan het verbeteren van de nauwkeurigheid en de gebruikerservaring."
Source: Nu.nl Tech