N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Filosofie Denken over kunstmatige intelligentie is meer dan alleen maar kluiven op abstracte vragen. Is het walhalla nabij, of het armageddon? Steeds meer filosofen houden zich met AI bezig.
Onlangs doopte de Duitse Süddeutsche Zeitung kunstmatige intelligentie de vierde narcistische „krenking” voor de mensheid. Eerst was er Copernicus (uit het centrum van het heelal gegooid), toen kwam Darwin (we stammen af van de apen), daarna Freud (ten prooi aan onbewuste driften) – en nu worden we ook nog ingehaald door machines die ons het laatste privilege afnemen: intelligentie. Adieu oude mens, uiteengespat in een confetti van bits en bytes, vrolijk nagezwaaid door ChatGPT.
Ingehaald door de toekomst van kunstmatige intelligentie
Dat is een schrikbeeld voor cultuurpessimisten en complotdenkers die een ‘transhumane’ toekomst met angst en walging tegemoet zien. Het is de opmaat naar een door „financiële opperheren” gecontroleerde „slavenmaatschappij”, jammert het tweewekelijkse paranoia-blad Gezond Verstand, dat zich ook afzet tegen alles wat met ‘transgenderisme’ te maken heeft. Tegenover hen staan de hallelujaroepers die AI zien als een stralende toekomst voor de mensheid, zoals in Homo Deus van pop-filosoof Yuval Harari.
Of is kunstmatige intelligentie – saaier, maar wel zo interessant – geen van beide, niet het virtuele walhalla maar ook geen digitaal armageddon? Hoe denken filosofen daarover?
Vakfilosofen die zich bezighouden met AI – en hun aantal groeit snel – zijn allang druk met het ‘demystificeren’ van AI, het temperen van zowel overdreven optimisme als het zwartste pessimisme. Ja, de technologie rukt in razend tempo op, maar verschilt nog steeds van menselijke intelligentie. Inderdaad, er dreigen gevaren, maar vooral aan de ‘menselijke’ kant. Nadenken over ‘verantwoordelijke’ AI als antwoord daarop is hot in de Academie. Het moet ‘moralisering’ van AI opleveren, toegesneden op de menselijke maat, niet achteraf maar al in de ontwerpfase. Ingenieurs en ethici trekken dan samen op in het laboratorium.
Maar eerst de schok van het nieuwe. Jan Broersen, sinds vier jaar hoogleraar logische methoden en AI in Utrecht, wil aan het begin van het gesprek wel kwijt dat hij „zwaar onder de indruk” is van de ChatGPT – inclusief de filosofische én sociale implicaties ervan. „Het heeft de natuurlijkheid die je gewend bent van mensen en dieren.” Ook frappant: de nieuwe chatbot, getraind op het platform Reddit, wéét wanneer het moet stoppen met antwoorden, een cruciale eigenschap. Broersen: „Het kent de dynamiek van de dialoog.”
Maar hoe goed is het? Inmiddels is het een wereldwijd gezelschapsspel geworden om de praatgrage bot op blunders of onzin te betrappen – er zijn al talloze voorbeelden te vinden, van onjuistheden tot verzinsels en verkeerde voorspellingen. Maar die feilbaarheid doet nog niet af aan de invloed ervan, zegt Broersen. „Je hoort op verjaardagen ineens vragen over bewustzijn, intelligentie en autonomie die altijd vooral aan de universiteit werden behandeld. Dat is een effect van dit type AI: het heeft klassieke filosofische kwesties gedemocratiseerd.”
De eerste vraag die Broersen aan de chatbot stelde was dan ook „of hij dacht de Turing-test te kunnen doorstaan”. De beroemde wiskundige Alan Turing (1912-1954) geldt als grondlegger van de moderne computerwetenschap. Zijn werk riep de vraag op of je van een rekenmachine die geprogrammeerde instructies volgt kunt zeggen dat hij een spel als schaken echt ‘begrijpt’.
En? Broersen, lachend: „Het antwoord was nee.” Van een student had hij het fout gerekend, zegt hij. ChatGPT lijkt het spel van vragen en antwoorden immers prima te begrijpen. Het punt is, zegt Broersen, hij begrijpt zichzélf niet. „Ook de beste AI-taalprogramma’s zijn niet meer dan probabilistische rekenmonsters. Ze kunnen woordvolgorde verbijsterend goed voorspellen, maar betekenis en logische structuur ontgaan ze.” ChatGPT is al een „stochastische papegaai” genoemd: een ijverige naprater. Broersen: „Je denkt dat je een stem hoort, maar in feite hoor je een kakofonie van miljoenen stemmen, een mix van de megadata. Een spreker, maar geen persoon.’
Dat hoeft niet te verbazen. Taalfilosofen spreken van syntaxis, semantiek en pragmatiek. Woorden krijgen betekenis in een context: die van een zin, opmerking of betoog, intenties van sprekers en ‘taalhandelingen’ (beweren, beloven, voorspellen, zweren, en andere). Machines weten daar slecht raad mee, zeker met dubbele bodems, metaforen of ironie. Iets vergelijkbaars geldt voor moraal, zegt Broersen. Je kunt AI-machines zoals zelfrijdende auto’s leren moreel te handelen, maar dat blijft „een morele schil” aan de buitenkant. Een ethische governor die ‘bovenop’ het model wordt aangebracht. „Het zit niet diep genoeg.”
Ook de beste AI-taalprogramma’s zijn niet meer dan probabilistische rekenmonsters
Jan Broersen hoogleraar logische methoden en AI
En zo is Broersen intussen over de grootste ‘narcistische krenking’ heen. Maar de Utrechtse filosoof maakt zich wél grote zorgen over de maatschappelijke effecten van ChatGPT. Hij heeft een hele lijst: nog sterkere machtsconcentratie bij de grote techbedrijven, proliferatie van schijnkennis, wegdrukken of verdwijnen van kleine talen, uitvergroten van cognitieve verschillen tussen mensen en van economische ongelijkheid. „De chatbot is nu nog gratis, maar iedereen die er geld in heeft gestopt zal een return on investment willen zien.” Lachend: „Eerst maken ze ons verslaafd en dan laten ze ons betalen.” Broersen is dan ook blij dat er regelgeving komt zoals die van de EU, die ‘verantwoorde AI’ nastreeft.
Die regulering komt dan nog van buiten, in de wetenschappelijke wereld zelf buigen zich ook steeds meer filosofen over de vraag hoe morele afwegingen in de omgang met AI-systemen aan te brengen zijn. Aan de TU Delft is sinds vorig jaar een compleet centrum met die vraag bezig, het Digital Ethics Centre. Oprichter en directeur is Jeroen van den Hoven, hoogleraar ethiek en technologie aan de TU. Hij zegt: „Iedereen praat nu over algoritmes, maar in feite is dat too little, too late. Onze benadering gaat uit van AI-toepassingen als socio-technisch systeem dat je als geheel moet ontwerpen. Met hardware, softwareregels én de menselijke rol tegelijk.”
Dat centrum groeit als kool, zegt Van den Hoven, nu het wetenschappelijke en publieke denken over AI en ethiek in een stroomversnelling is gekomen. Er werken zo’n tien mensen, die zowel fundamenteel als toegepast onderzoek doen. Tot het laatste horen projecten voor onder meer de uitkeringsinstantie UWV en het ministerie van Buitenlandse Zaken, met onderzoek naar moreel verantwoord gebruik van AI op militair gebied. Het onderstreept de beweging naar design in de ethiek en de techniekfilosofie, die zich heeft ontwikkeld van abstracte bespiegelingen over de culturele effecten van technologie naar meer aandacht voor verantwoord ontwerp en de interactie tussen mens en techniek. „Technologische ontwerpen zijn nu eenmaal niet waardeneutraal en onze waarden hebben als het goed is consequenties voor het ontwerp.”
Nederland loopt daarin voorop, volgens de Delftse hoogleraar. „Je kunt gerust zeggen dat wij de bakermat zijn van dit soort denken over techniek„ Het is ook heel Nederlands, zegt hij: aandacht voor techniek én ethiek, ook in militaire zaken. Van der Hoven geeft het voorbeeld van het Amerikaanse marineschip dat in 1988 per abuis een Iraans passagierstoestel neerschoot, met 290 doden tot gevolg. Die ramp had kunnen worden voorkomen met een battle management-systeem dat „op een kritiek moment relevante informatie geeft als context voor lastig te interpreteren data”. Zoals: een icoontje dat toont of een toestel stabiel horizontaal nadert (en dus mogelijk een burgertoestel is), of scherp verticaal dalend (een aanvallend militair toestel). Explainable AI moet gebruikers in staat stellen beter te begrijpen hoe het antwoord van een complex en ondoorzichtig AI-systeem tot stand komt en hoe betrouwbaar het is.
Van den Hoven: „Morele afwegingen moeten al in de ontwerpfase van een systeem worden meegenomen.” Ethiek en techniek kunnen ook van nature heel goed samengaan, zegt hij. „Ingenieurs en moraalfilosofen hebben gemeen dat ze zich een werkelijkheid voorstellen die er nog niet is, maar die er zou moeten zijn.” Alleen waren ethici traditioneel „vooral bezig met het doel, niet met de weg ernaartoe, zoals ingenieurs. In het werken aan verantwoorde AI gaat dat samen”.
Zulke moreel-technische innovatie, echt iets nieuws neerzetten, vindt Van den Hoven interessanter dan louter kauwen op abstracte kluiven zoals de vraag of een computer kan denken of bewustzijn heeft. „Edsger Dijkstra, een beroemd informaticus en winnaar van de Turing Award – de Nobelprijs voor informatici – zei eens: de kwestie of compu Source: NRC