Een vijfde van Nederlandse bedrijven gebruikt AI-systemen in recruitment vanwege de enorme efficiëntie om nieuwe geschikte werknemers te vinden. Maar die systemen kunnen straffeloos vrouwen discrimineren.
Al in 2018 discrimineerde Amazon vrouwen die bij hen solliciteerden. Amazon gebruikte een AI-systeem, dat de curriculum vitae’s inlas en recruitbeoordeelde welke kandidaten een goede match zouden zijn voor het bedrijf. Gezien het systeem was getraind met mannelijke cv’s en interviews, ‘leerde’ het dat mannen een ‘betere’ kandidaat waren doordat mannen een ander woordgebruik hanteerden in hun cv’s dan vrouwen. Als je als vrouw bijvoorbeeld op een ‘all women school’ had gezeten of meedeed aan een ‘womens chess club’ kon je dus fluiten naar een baan.
Was Amazon hiervan op de hoogte?
Hoewel Amazon beweert het AI-systeem nooit te hebben ingezet buiten de oefenperiode, is het gebruik van AI in recruitment ook in Nederland niet meer weg te denken. En het is geen ver-van-mijn-bed-show meer: een vijfde van Nederlandse bedrijven gebruikt AI in het automatiseren van het wervingsproces vanwege de enorme efficiëntie om nieuwe geschikte werknemers te vinden.
Dat roept de vraag op of we als maatschappij meer waarde hechten aan de efficiëntie van AI, of meer aan het recht op non-discriminatie bij het gebruik van AI. En hebben vrouwen überhaupt door dat ze gediscrimineerd kunnen worden tijdens het wervingsproces?
Over de auteur
Siem Bosgoed is student rechtsgeleerdheid aan de Universiteit Utrecht.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Zonder dat je het als vrouw doorhebt, kun je niet aanbevolen worden voor een baan omdat AI jou discrimineert. Hoewel discriminatie verboden is in het wervingsproces, ontstaan er toch gevaren bij het gebruik van kunstmatige intelligentie hierin. Zo is het vaak ondoorzichtig hoe AI tot een aanbeveling komt, en worden bepaalde negatieve vooroordelen over vrouwen door een slechte training van AI-systemen klakkeloos overgenomen.
Laten we dit dan allemaal maar gebeuren? Als het aan de Europese Commissie ligt niet: de onlangs in werking getreden Artificial Intelligence Act is Europa’s eerste uitgebreide aanpak voor risico’s die het gebruik van kunstmatige intelligentie met zich meebrengt.
Op het eerste gezicht ziet de wet in de bescherming van ‘non-discriminatie’ er positief uit: hoge-risico systemen, zoals AI-recruitmentsystemen, moeten aan allerlei eisen voldoen om de risico’s op discriminatie verminderen. Zo moet er een risicobeheerderssysteem worden opgesteld en moeten negatieve vooroordelen door het AI eruit worden gehaald om discriminatie tegen te gaan.
Positieve ontwikkelingen zou je denken. Maar waarom is er dan enorme kritiek op de wet door mensenrechtenorganisaties? Wellicht omdat ontwikkelaars van de AI-systemen zelf mogen gaan controleren of ze aan alle regels van de wet voldoen. Ontwikkelaars van AI-systemen mogen namelijk zélf bepalen of het systeem een inbreuk levert op fundamentele rechten, zoals het recht op non-discriminatie - alsof een verdachte zelf mag bepalen of hij een strafbaar feit heeft gepleegd.
Zodra de ontwikkelaar zichzelf heeft goedgekeurd, mag het zonder controle door de overheid zijn AI-systeem op de markt brengen. Maar dit is niet het enige wat er aan de nieuwe wet mankeert. De AI-act is ook nog eens bijzonder vaag, waardoor belangrijke begrippen zoals ‘bias’, wat een risico op discriminatie is, niet eens worden uitgelegd. Daarbij mist er een concrete link met andere anti-discriminatiewetten. Onbegrijpelijk, aangezien de EU juist promootte dat de wet voor meer vertrouwen en transparantie zou gaan zorgen.
De AI-act komt voort uit goede bedoelingen, maar blijkt tot nu toe vooral gebakken lucht. Zijn er dan ook winnaars bij de wet? Ja, maar dat zijn zeker niet de gediscrimineerde vrouwen. Want uiteindelijk zijn vooral AI-techbedrijven erbij gebaat om zo min mogelijk gestoord te worden in hun Europese machtsovername.
Ondertussen is de inzet van AI niet meer weg te denken in het wervingsproces. Het is dus niet de vraag óf AI voor recruitment moet worden gebruikt, maar vooral hoe en wanneer het mag worden gebruikt. Er zouden daarom meer anti-discriminatieorganisaties betrokken moeten worden tijdens de ontwikkelingsfase van AI om de risico’s van discriminatie aan te kaarten. Ook moeten landelijke autoriteiten gaan controleren of een AI systeem discrimineert, niet de ontwikkelaars zelf.
De maatschappij moet opkomen voor hun basisrecht om niet gediscrimineerd te mogen worden, en de wetgevers aansporen niet te zwichten voor de massale lobbymacht van techgiganten. Alleen dan hebben vrouwen een échte gelijke kans op de arbeidsmarkt.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant