Filosoof Ajuna Soerjadi zet zich in voor ethisch verantwoorde toepassingen van nieuwe technologieën, zoals kunstmatige intelligentie. Haar strijd tegen polarisatie en uitsluiting komt voort uit jeugdervaringen. ‘Ze zeiden bijvoorbeeld: wat een bijzondere huidskleur heb je.’
‘Ik ben ervan overtuigd dat kunstmatige intelligentie aan een mooier bestaan kan bijdragen. Maar dan moeten we wel de vraag durven stellen: welk probleem willen we ermee oplossen? Momenteel wordt alles gedaan om het zo snel mogelijk op de markt te brengen, maar die wezenlijke vraag wordt veel te weinig gesteld.’
Als filosoof kijkt de 23-jarige Ajuna Soerjadi kritisch naar de opmars van kunstmatige intelligentie (AI) – ze strijdt voor ethisch verantwoorde toepassingen van deze ‘systeemtechnologie’, zoals AI door de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) is aangeduid. De essentie van zo’n technologie is dat ze doordringt tot alle facetten van de samenleving. Wat de verbrandingsmotor in de 20ste eeuw was, wordt AI deze eeuw, stelt de WRR.
In 2020, als tweedejaarsstudent filosofie, zet Soerjadi het Expertisecentrum Data-ethiek op: ‘Ik zag zo veel dingen misgaan. Discriminerende effecten van AI-systemen kwamen aan het licht, bij de toeslagenaffaire natuurlijk, maar ook bijvoorbeeld bij herkenningssoftware die voor donkere mensen nadelig uitpakte. De documentaire The Social Dilemma maakte grote indruk op me, omdat die aantoonde hoe Facebook en Google met hun algoritmen bijdroegen aan de polarisatie in de samenleving.’ De slogan van haar expertisecentrum: ‘Nooit meer een toeslagenaffaire’.
Als vrouw van kleur is ze een uitzondering in de door witte mannen gedomineerde techwereld. Dat geldt ook voor haar studie filosofie. Juist haar achtergrond stelt haar in staat, zo zegt ze, om een ander geluid te laten horen. Wanneer AI-toepassingen tot uitsluiting van groepen leiden, komt ze in het geweer: ‘Als ik onrechtvaardigheid zie, moet ik daar iets mee. Ik kan niet slapen als ik er niets aan doe.’
Die drang valt op haar levensverhaal terug te voeren. Als oudste dochter in een Nijmeegs gezin, met een Indonesische vader en een Brabantse moeder, voelt ze zich van jongs af aan anders. Bij een test op 8-jarige leeftijd blijkt ze hyperintelligent, waarna ze op een Leonardo-school voor hoogbegaafden terechtkomt. Het gevoel afwijkend te zijn wordt door vrienden van haar moeder versterkt: ‘Die zeiden bijvoorbeeld: ‘Wat een bijzondere huidskleur heb je.’ Dat voelde voor mij nooit echt als een compliment.’
Het gevoel anders te zijn heeft ertoe geleid dat ze zich kan inleven in ‘alle outsiders, iedereen die wordt buitengesloten, of dat nu ouderen zijn die zich verloren voelen in een digitale wereld, of mensen van kleur, zoals ikzelf’. Met haar expertisecentrum wil ze zich hardmaken voor AI-toepassingen die ‘inclusiviteit en diversiteit’ respecteren.
‘Toen ik een jaar of 8 was, las ik De kleine prins (van de Franse schrijver Antoine de Saint-Exupéry, red.). Daarin staat een tekening die voor de meeste mensen een hoed voorstelt, maar de kleine prins ziet een boa constrictor die een olifant heeft opgegeten. In die afwijkende blik, dat niet aanvaarden van het vanzelfsprekende, herkende ik me. Ik sprak daarover met een oom. Die zei: misschien is filosofie wat voor je. Jaren later, rond mijn 15de, kreeg ik het als keuzevak op de middelbare school. Toen heeft filosofie me echt gered.
‘In de voorgaande jaren was ik in een depressie terechtgekomen. Ik had verdriet over mijn jongere zusje dat kort na haar geboorte was overleden. Ook gingen mijn ouders in die tijd scheiden. Ik vroeg me af wat de zin van het bestaan was, stelde mezelf grote, existentiële vragen en voelde me daarin erg eenzaam. Toen ik eenmaal teksten van filosofen als Plato en Descartes ging lezen, luchtte dat me enorm op. Ik ben niet gek, leerden die teksten me, anderen hadden eerder al over die vragen nagedacht. Ook ontdekte ik dat ik er goed in was. Op mijn 16de won ik met een essay de Nederlandse Filosofie Olympiade en werd ik Jonge Denker des Vaderlands. Dat was zo’n gelukkig moment voor me.’
‘Dat wist ik aanvankelijk niet. Bij mijn studiekeuze kreeg ik te maken met scepsis van mijn familie en mijn vrienden. Ze vroegen zich af wat voor werk al dat nadenken me zou opleveren. Zelf had ik die twijfel ook, het was nog het moeilijkst mezelf te overtuigen. Gelukkig bleek de aantrekkingskracht van filosofie te groot. In het eerste jaar kwam techniekfilosofie op mijn pad. Dat sprak me enorm aan, omdat ik door dat vak ging begrijpen wat er nodig is voor een toekomst waarin iedereen zich welkom voelt en waarin iedereen de vruchten kan plukken van technologische vooruitgang.’
‘Ja, dat is altijd zo geweest. Plato was al niet blij met de uitvinding van het schrift. Wanneer we alles opschrijven zouden we onze geheugencapaciteit kwijtraken, dacht hij. Je kunt tegenwoordig een parallel zien in de kritiek op algoritmes die artsen helpen bij het stellen van diagnoses. Er zijn mensen die vrezen dat artsen hun eigen diagnosevaardigheden verliezen, omdat ze op het algoritme gaan leunen. Feit is dat zo’n algoritme oneindig veel meer gevallen kan analyseren dan een dokter, die alleen zijn eigen patiënten ziet.
‘Al eeuwenlang zie je bij de opkomst van nieuwe technologie twee tegengestelde reacties. Er is een groep mensen die het als een groot gevaar ziet, terwijl anderen roepen: het is een zegen voor de mensheid. Bij AI doet zich dat ook voor: sommigen roepen dat AI de wereld gaat overnemen, anderen zijn superenthousiast en kritiekloos. Dankzij de filosofie heb ik die uitersten leren nuanceren, in mijn ogen is geen van beide op juiste aannames gestoeld. Wat helpt is de vraag te stellen: hoe kunnen we deze technologie op een verantwoorde manier inzetten voor de samenleving?’
‘Als filosoof heb ik geleerd na te denken over de fundamentele beperkingen van AI. Eén daarvan is dat een algoritme geen bewustzijn heeft, het kan uit zichzelf niks – het is uiteindelijk altijd een mens die de beslissing neemt. Doet hij dat op basis van een algoritme, dan wordt het voor hem wel lastig om te zeggen dat hij het beter weet. De neiging is autoriteit toe te kennen aan wat de computer zegt.
‘Begrijp me goed: ik snap heel goed het verzet tegen bepaalde toepassingen, zoals bepaalde fraudedetectiesystemen die we echt niet moeten willen. Maar de techniek als zodanig moeten we niet tegenwerken. Er zijn gunstige toepassingen, zoals artsen die diagnoses beter kunnen stellen, dyslectische mensen die dankzij Chat GPT foutloze teksten kunnen opstellen of mensen die dankzij een meertalige chatbot naar de voedselbank durven gaan. Ik ben ervan overtuigd dat we met AI een goede samenleving kunnen creëren, alleen moeten we erg opletten het goede te doen.’
‘Wat belangrijk is, is dat mensen die algoritmes ontwikkelen zeer verschillende achtergronden hebben. Je wilt diversiteit in de datasets die je voor zo’n algoritme gebruikt, dus moet je de samenstelling van die bestanden niet alleen aan witte mannen overlaten. Anders krijg je missers zoals een gezichtsherkenningssysteem dat alleen op plaatjes van witte mensen werd getraind, waardoor mensen van kleur in de problemen kwamen.
‘Diversiteit is dus belangrijk, maar ook inclusiviteit: iedereen moet van AI kunnen profiteren, mensen mogen niet worden buitengesloten. Een sollicitatiesysteem waarbij mannen wel, maar vrouwen niet voor een gesprek worden uitgenodigd, deugt dus niet. Net als het gevaar van een zelfrijdende auto die ouderen eerder aanrijdt, omdat de gebruikte dataset niet divers is samengesteld.’
‘Nou, in de praktijk gaat het maar al te vaak mis. Een groot probleem is dat AI-enthousiastelingen denken dat data of algoritmen neutraal zijn. Dat is een misvatting, ze komen tot stand op basis van wat mensen verzamelen en erin stoppen. Daarom vormen ze altijd een weerspiegeling van wat in de maatschappij speelt en kunnen er onrechtvaardigheden in het systeem sluipen. Neem wat er in Amsterdam is gebeurd met de Top 400-lijst van jongeren die in de criminaliteit dreigden te belanden, althans volgens een algoritme. Dat waren vooral Marokkaanse hangjongeren. In hun wijken waren er meer arrestaties, werd het algoritme geleerd, waarna op basis van het algoritme meer politie naar die wijken werd gestuurd, waardoor je nog meer arrestaties kreeg – een zichzelf versterkende feedbackloop. Het idee was goed: voorkom dat jongeren afglijden, maar in de praktijk leidde het tot harde maatregelen tegen mensen die nog helemaal niet in de fout waren gegaan. Er zit veel potentie in AI, maar we hebben nog een lange weg te gaan.’
‘De commerciële belangen van big tech gaan niet goed samen met ethische bezwaren. Het kost ze geld om inclusief te zijn. Het is heel gemakkelijk over enorme databestanden met plaatjes en informatie over witte mannen te beschikken. Maar wil je een goede kwaliteit krijgen, dan moet je een inspanning leveren voor evenredig veel plaatjes en informatie van vrouwen en mensen uit minderheden in zo’n databestand. Die moet je verzamelen en wil je een evenwichtige dataset krijgen, dan zul je veel data van mannen moeten weggooien. Dat kost allemaal tijd en geld, wat haaks staat op de efficiëntie die grote techbedrijven vooropzetten.
‘Mijn hoop is dat kritische consumenten big tech een meer ethische kant op gaan dwingen. Dat komt in beeld wanneer hun imagoverlies door het werken met slechte datasets kostbaarder voor ze wordt dan de kosten die ze moeten maken om de kwaliteit van die data te verbeteren. Maar als je ziet hoe grote bedrijven sociale media in de markt hebben gezet, stemt me dat wel pessimistisch. Om zo veel mogelijk winst te maken moeten hun klanten zo lang mogelijk op hun platformen blijven en om dat te bereiken is allerlei weerzinwekkende, polariserende content door het algoritme naar voren gepusht. Als je ziet hoeveel schermtijd mensen nu aan sociale media besteden, hoe verslaafd ze zijn geraakt, tsja, dan is de conclusie toch dat sociale media ons leven bepaald niet mooier zijn gaan maken.’
‘Dan kom ik toch uit bij mijn hoop dat mensen zich fundamentele vragen over AI durven te stellen – niet alleen de gebruikers ervan, maar ook de ontwikkelaars. Al voordat je met ontwikkelen begint, zou de vraag moeten zijn: welk maatschappelijk probleem gaan we hiermee oplossen? Big-techbedrijven hebben hun producten op de markt gegooid zonder zich van tevoren te hebben afgevraagd wat er dan precies zou gebeuren, zoals we bij sociale media hebben gezien. Wat mij betreft had de voorafgaande vraag moeten zijn: is het wel wenselijk dat ze zo’n enorme rol in ons leven gaan spelen? Ik ben ervan overtuigd dat we ook andere keuzes hadden kunnen maken.
‘In de komende jaren zullen nieuwe AI-toepassingen op ons afkomen, de impact op ons leven zal steeds groter worden. Mensen zullen daardoor gaan beseffen hoe belangrijk het is verantwoord met AI om te gaan. Mijn hoop is dat dat besef zo krachtig wordt dat we het steeds beter gaan doen: niet alleen van tevoren nadenken, maar ook tijdens het hele proces. Technologie is mooi, maar je moet altijd beseffen dat het onbedoelde gevolgen kan hebben.’
‘Rosa, een socioloog met een filosofische inslag, legt uit waarom we in deze tijd het gevoel hebben achter de feiten aan te lopen, ook al beschikken we over veel technologische hulpmiddelen. Hij pleit voor werkelijk in contact komen met de wereld, resonantie. Hij heeft me geleerd daarvoor open te staan.’
Source: Volkskrant