Virtuele assistenten zoals Siri en Alexa hebben standaard vaak het uiterlijk of de stem van een vrouw. Onderzoekers schreven in 2021 al dat veel mensen het makkelijker of fijner vinden om opdrachten te geven aan een vrouwelijk personage dan aan een mannelijke versie. Maar daarmee sluiten AI-assistenten zich aan bij het stereotype dat vrouwen gedienstig en onderdanig zijn.
Dat is niet het enige (onbedoelde) gevolg van de ontwikkeling van verantwoorde AI, waarbij ethische risico's zo veel mogelijk weggenomen moeten worden. Zo werkt gezichtsherkenning soms minder goed voor vrouwen dan voor mannen en koppelen algoritmes vrouwen minder vaak aan goedbetaalde banen.
Daarom moet er meer bewustzijn voor diversiteit komen bij het ontwikkelen van AI, concludeert Maaike Harbers. Als lector AI & Society van Hogeschool Rotterdam rondde ze een verkennend onderzoek over dit onderwerp af.
Al veel onderzoek is gedaan naar mogelijk discriminerende factoren in kunstmatige intelligentie en de datasets waarmee de technologie wordt getraind. Veel minder is bekend over de relatie tussen (gender)diversiteit van mensen die AI ontwikkelen en hoe verantwoord die AI is. Zeker in Nederland ontbreekt die informatie.
Uit onderzoek van Harbers blijkt dat we vaak met een technische bril op naar het vraagstuk rond verantwoorde AI kijken. "De mensen die kunstmatige intelligentie ontwikkelen zijn vaak man, wit en hoogopgeleid", zegt ze. "Vanuit die hoek kijken we naar AI en dat is ook nodig, maar daarnaast moeten we ook op andere dingen letten."
Aan het vrouwelijke perspectief wordt nog weinig aandacht besteed. Zo geven vrouwen uit het werkveld aan vaak niet serieus genomen te worden. Zorgwekkend, vindt Harbers: "Het kan ertoe leiden dat vrouwen afhaken en de sector verlaten. En dat terwijl er al grote personeelstekorten in de IT-wereld zijn."
Mariëlle Stoelinga, hoogleraar risicomanagement van high techsystemen aan de Universiteit Twente en de Radboud Universiteit, noemt de bevindingen problematisch. En ze onderschrijft ze ook. "Het is een typische mannenwereld. En als je bij een minderheid hoort, word je al snel minder serieus genomen. Dat is helaas in veel vakgebieden zo."
Het Centraal Bureau voor de Statistiek berekende al dat veruit meeste ICT'ers in Nederland man zijn. Slechts 16,2 procent van de ICT'ers is vrouw. Dat is zelfs onder het Europese gemiddelde, dat met 19 procent ook niet bijster hoog is.
Vrouwen lopen al vanaf jonge leeftijd tegen hordes en vooroordelen aan in de technische wereld. Dat zegt Vivian de Corti van VHTO, het expertisecentrum Voor Haar Technische Ontwikkeling. "Als leerlingen een studieadvies krijgen voor een technisch of exact profiel, dan is er een kans dat daarbij onbewuste vooroordelen een rol spelen. In eenzelfde situatie heeft een jongen twee keer zoveel kans op een positief advies dan een meisje."
En dat is zonde, want vrouwen kunnen die mannenwereld verrijken. Ze gaan bijvoorbeeld op een andere manier met ethische AI-vraagstukken om, zegt Harbers. Ze zijn vaak terughoudender met de inzet van nieuwe toepassingen dan mannen. En ze hebben vaak meer oog voor risico's, zoals de negatieve impact op het milieu en de gevolgen voor specifieke groepen in de maatschappij. "Het valt misschien eerder op als je zelf bij de groep hoort die mogelijk benadeeld kan worden door AI."
Meer bewustzijn is nodig om te zorgen dat niet alleen meer vrouwen, maar ook verschillende etniciteiten bij de ontwikkeling van AI worden betrokken. Die verandering heeft wel tijd nodig.
"Eigenlijk zijn we daar al te laat mee", zegt Harbers. Want veel AI-datasets zijn al groot en worden door veel bedrijven gebruikt. Maar ze bekijkt het optimistisch. "Met dit eerste onderzoek laten we zien waar de knelpunten zitten. Het risico op discriminatie is groot, dus dat er meer aandacht voor diversiteit komt is extra belangrijk."
In het rapport zijn dan ook een aantal aanbevelingen opgenomen. Zo adviseren Harbers en haar collega's aan bedrijven en organisaties om ethische richtlijnen voor verantwoorde AI na te leven.
Volgens Stoelinga is het net zo belangrijk dat bedrijven eerst bedenken waarvoor ze AI willen inzetten. "AI is een revolutie die onze toekomst gaat bepalen", zegt ze. Maar daarom is het ook belangrijk dat er niet alleen verschillende geslachten, maar bijvoorbeeld ook verschillende etniciteiten aan werken. "Anders krijg je oplossingen die werken voor een bepaalde groep, maar niet voor de hele maatschappij."
Daar komt een stukje bewustwording bij kijken, sluit De Corti aan. "De vrouwen willen wel, maar ze blijven ervaren dat ze zich twee keer zo hard moeten bewijzen."
Source: Nu.nl economisch