Met de groeiende afhankelijkheid van technologie dreigt het menselijk handelen uit het hart van de samenleving te verdwijnen. Dat zou ons nerveuzer moeten maken dan het nu doet.
‘Fasten seatbelt or switch off!’, schreeuwt de elektrische Toyota.
Ik houd van autovakanties, van het landschap dat verandert, van de geborgenheid van de cabine, van de snacks en de spelletjes en zelfs, als ze niet te lang zijn, van de files.
Maar dit jaar is het anders. Piep! Als mijn vriendin en ik net zijn weggereden bij een Frans tankstation en weer op de snelweg zitten, verschijnt er een dwingende tekst op het scherm achter het stuur: ‘Driver inattention detected! Look forward!’
Of die uitroeptekens er echt bij stonden, weet ik niet zeker, maar zo voelt het toch. En inderdaad, ik was even afgeleid door de enorme tablet die pontificaal in het midden van deze wagen is geïnstalleerd en dat constant aandacht opeist met nog meer informatie en nog meer flitsen. Zijn er hier nog wegwerkzaamheden? Nog voor je op ‘ja’ kunt klikken gaan er weer allerlei piepjes af. Je rijdt te hard. Pieppiep!
Een dubbel omrand bordje met 50 km/u knippert woest op het scherm, terwijl de borden buiten toch echt 130 aangeven. Maar ja, de snelweg raast hier door een dorp, waardoor de auto een zweem opvangt van de bebouwde kom. Error, hieperdepiep.
Nog maar een paar uur onderweg en de opstandige leasebak heeft al het bloed al onder mijn nagels vandaan gehaald. En dan heb ik ook nog net onze oeroude Peugeot cabrio verkocht. Piep! Keep focus! Ik probeer een vrachtwagen in te halen door even snel zonder knipperlicht de linkerbaan op te sjezen. Maar de auto dwingt me resoluut terug en trapt dan vol op het rempedaal.
Het is alsof we met zijn drieën op vakantie zijn. Zo’n camerasysteem is sinds afgelopen zomer verplicht in alle nieuw verkochte auto’s in de Europese Unie. Ergens heeft het iets griezeligs. Ik zak langzaam weg in mijn stoel, een heel klein beetje maar, echt waar. Pieppieppiep! ‘Sit up! Driver’s face not detected.’ Sorry hoor.
In zijn essaybundel The Weird and the Eerie uit 2016 omschrijft de Britse cultuurfilosoof Mark Fisher (1968-2017) deze vorm van griezeligheid als eerie. Een eerie gevoel ontstaat wanneer het onduidelijk is wie of wat er aan zet is geweest, bijvoorbeeld doordat er iets is wat er niet had moeten zijn, zoals de stenen van Stonehenge of die enorme beelden op Paaseiland. Wie heeft die stenen daar neergezet?
Een situatie kan ook eerie zijn doordat er juist iets níét is wat er wel had moeten zijn. Een verlaten dorpsplein is eerie omdat er kinderen horen rond te rennen onder het toeziend oog van bejaarden op bankjes. Als een tankstation midden op een zomerdag stil en verlaten is, vragen we ons af wat er is gebeurd, waarom deze plek leeg is.
We raken volgens Fisher nerveus omdat er overduidelijk is gehandeld, maar het niet duidelijk is door wie of wat.
Zo ook in de auto. Wie of wat bekijkt mij en concludeert dat ik mijn blik niet op de weg heb? Wie of wat grijpt het stuur en duwt de auto terug? Wie of wat zegt dat ik te hard rijd? En waarom?
De ingreep van het stuur zelf is niet per se vervelend, ik zie ook wel dat het verstandiger is om het knipperlicht te gebruiken bij het invoegen. Het is me te doen om de ervaring dat er iets buiten mij om handelt. Achter de ingreep zit een complex geheel van fabrikanten van over de hele wereld, camera’s, sensoren, programmeurs, verkeersregels, ideeën, politieke overtuigingen, veiligheidsnormen, juristen, verzekeraars en waarschijnlijk nog veel meer.
Er zijn kortom zo veel partijen betrokken dat je zou kunnen stellen dat niets eenduidigs de ingreep deed. Dat niemand iets deed. Er is een gebrek aan duidelijke agency, zoals Fisher het noemt, waardoor de beoordeling van mijn rijgedrag eerie wordt.
Het is een gevoel dat veel technologie geeft. Of het nu een mysterieus werkend algoritme is of een immer turende surveillancecamera, een web van vage cookies of de steeds groter wordende invloed van ingewikkelde taalmodellen op ons schrijven, we worden voortdurend in de gaten gehouden, beoordeeld en bijgestuurd, terwijl het nooit helemaal duidelijk is wie ons precies stuurt, en waarom.
Best griezelig, omdat de bepaling van het gewenste gedrag op basis waarvan er wordt beoordeeld en bijgestuurd aan niemand kan worden toegeschreven. Het is ‘gewoon’, ‘normaal’, zoals ‘het’ hoort.
Misschien ervaar ik daarom meer ongemak in een auto die ontworpen is om mij het ongemak uit handen te nemen. In mijn oude Peugeot moest ik me concentreren, en als ik 130 reed, liet het ding me dat weten door ongecontroleerd te gaan trillen. Ik moest de pook vasthouden tijdens het inparkeren zodat-ie niet uit z’n eerste versnelling zou schieten en ik moest de ramen handmatig openen.
Dat type ongemak, ontstaan uit de moeite die ik moet doen om te kunnen rijden, wordt me door de Toyota uit handen genomen. Maar dat is nu juist wat het allemaal nog vreemder maakt: omdat de elektrische auto op eigen houtje lijkt te handelen, is het steeds minder noodzakelijk dat ik zélf iets doe, dat ik zelf begrijp wat er gebeurt, dat ik zelf mijn rijvaardigheden inzet om ons drieën veilig in Frankrijk te krijgen.
Technologie, in welke vorm ook, neemt ongemak weg en zorgt ervoor dat wij minder weerstand ervaren in onze interactie met de wereld, andere mensen en onszelf.
Dat is althans de belofte. Door de weg naar het resultaat af te snijden hopen we er zo snel en efficiënt mogelijk te geraken. Maar een meer fundamentele vraag die zich opdringt is wát we precies afsnijden als we alle moeite, ongemak en weerstand uit onze cultuur proberen te verbannen, door middel van technologie. En of dat niet meer problemen oplevert dan oplossingen.
Het is vermoeiend, maar of het nu autorijden is of koken, schrijven, iets repareren of een taal leren, wanneer je ergens moeite voor doet, ontwikkel je het vermogen tot aandacht, doe je kennis op en leer je vaardigheden. De weerstand die we ervaren wanneer iets moeite kost dwingt ons om op te letten, om het steeds weer opnieuw te proberen en ons gedrag aan te passen.
We leren iets beheersen, waardoor we een soort genot ervaren dat belangrijk is voor de ontwikkeling van identiteit en eigenheid, van autonomie: het besef dat we zelf iets tot stand kunnen brengen. Dat is uiteindelijk de waarde van ongemak en weerstand. We bouwen er kennis mee op en daarmee zelfvertrouwen. We definiëren ons karakter, we creëren een uniek mens, dat zich op een eigen manier verhoudt tot de wereld, met een eigen stijl.
Moeite doen brengt een bepaalde, diepere vorm van voldoening. Het lezen van een worstelroman brengt een andere, complexere vorm van genoegen dan het kijken naar de verfilming ervan. Zonder AI schrijven is moeilijker, maar levert uiteindelijk een genoegen op dat niet noodzakelijk ‘beter’ is, maar waarbij we wel zelf een rol spelen. Als we die rol uit handen geven, wordt de wereld griezeliger, eerie.
Om dezelfde reden voelt het als een soort verraad wanneer een tekst door AI blijkt te zijn geschreven, hoe goed die tekst ook kan zijn. Schrijver Jay Caspian Kang noemt dat in een stuk in The New Yorker een nasty feeling, een teleurstelling: ‘Het vieze gevoel dat ontstaat wanneer je een e-mail, een artikel of een kortverhaal leest dat door AI is geschreven, is niet per se de vrees dat onze nuttigheid hier op aarde ten einde loopt, maar eerder hetzelfde ongemak en dezelfde teleurstelling die je zou voelen als je erachter komt dat je tegenstander bij het schaken een bot gebruikt om zijn volgende zetten te bepalen.’
Dat vieze gevoel heeft ook te maken met verdienste. Je tegenstander verdient de overwinning niet, een schrijver die AI gebruikt verdient geen credits voor de tekst. Als we het moeite doen uitbannen, is het de vraag of we een diploma verdienen als we alle werkstukken met een taalmodel hebben gemaakt. Is het terecht dat we die baan hebben gekregen met een door een chatbot geschreven sollicitatiebrief?
En als je je scriptie met AI hebt geschreven, is dat ingelijste diploma aan de muur dan van jou? Wie heeft dat diploma gehaald?
Het mag duidelijk zijn dat eeriness in de plaats komt voor iets anders: trots.
In haar boek Trots (2023) beschrijft de Vlaamse filosoof Martha Claeys trots onder meer als de zelfwaardering die ontstaat wanneer we iets bijzonders hebben gepresteerd. Bijvangst van deze vorm van trots is dat het ‘positieve’ kennis over jezelf oplevert: ik ben iemand die dit kan, die dit heeft geleerd, die heeft volgehouden.
Zonder eigen inspanning is de voldoening oppervlakkig, maar trots onmogelijk. Het resultaat zegt immers heel weinig over wie we zijn en waartoe we in staat zijn.
Dat is uiteindelijk funest voor de maatschappij, want het handelen, zo schrijft Hannah Arendt in haar boek De menselijke conditie uit 1958, is de hoogste vorm van menselijke activiteit. Met handelen bedoelt ze niet simpelweg dat we iets doen, maar dat we ons tussen andere mensen in begeven, dat we met hen spreken, over hen en de wereld oordelen, dat we initiatief nemen, iets nieuws beginnen en op elkaar reageren.
De uitkomst van het handelen ligt nooit vast, er komt veel weerstand bij kijken. In het handelen maken we onszelf kenbaar, maar leren we ook omgaan met anderen die ons niet begrijpen of die ons tegenspreken. In die onvoorspelbaarheid ontstaat volgens Arendt vrijheid en politieke agency. We kunnen er de wereld mee veranderen.
Het technologisch streven om alle weerstand uit te bannen is dus politiek geladen, omdat het een voorwaarde is voor het handelen, voor vrijheid. Ik probeer hier dan ook geen ludditisch verhaal te houden over dat The Flintstones het beter zouden hebben dan wij. Het is eerder dat wij, met de steeds dominanter wordende rol van moderne technologie in de samenleving, langzaam de vrijheid verliezen om moeite te kúnnen doen, zelfs al zouden we het willen.
Ondertussen wordt het namelijk griezeliger en griezeliger, en wordt dat wat ‘normaal’ is steeds minder bepaald door democratische processen waaraan we actief deelnemen, maar steeds meer door de antipolitiek van de grote techbedrijven. Het is niet voor niets dat techmiljardair Peter Thiel technologie ziet ‘als geweldig alternatief’ voor de trage, weerbarstige democratische politiek.
Met de groeiende afhankelijkheid van technologie dreigt het menselijk handelen uit het hart van de samenleving te verdwijnen. Dat zou ons nerveuzer moeten maken dan het nu doet. In plaats daarvan lijken we gewend te zijn geraakt aan de zwarte doos, aan die ondoorzichtigheid van technologie. Sterker, we lijken steeds meer immuun te worden voor het gevoel dat we worden bespied.
Volgens Mark Fisher ontstaat dat gevoel door een tekort aan kennis. Zodra we weten wie erachter zit of waarom het dorpsplein verlaten is, verdwijnt de griezeligheid. Een film als The Blair Witch Project, waarin de ‘heks’ nooit wordt getoond, is griezeliger dan een film als Alien, waarin het al meteen duidelijk is hoe de aliens eruitzien.
Maar Fisher beschrijft ook nog een andere vorm, eentje die aantrekkelijk is: the eerieness als aanwijzing dat er andere krachten aan het werk zijn dan wij kunnen begrijpen, dat er meer is, dat de werkelijkheid niet noodzakelijkerwijs op de mens is gericht.
Een voorbeeld: in Het Zwarte Schip, een absurdistisch verhaal van de Napolitaanse schrijver Nicola Pugliese (1944-2012), vaart midden in de nacht een enorm, ogenschijnlijk onbemand schip geruisloos de Golf van Napels binnen. Het is muisstil en volgens sommige Napolitanen zweeft het zelfs boven het water. Maar even stil als het gekomen is, verdwijnt het weer.
Als de mensen uit Napels tevergeefs proberen te begrijpen wat en waarom, concludeert hoofdpersoon Carlo Andreoli, journalist, op de kade: ‘het leven waar jullie nu buiten adem naar op zoek zijn is niet in dat Zwarte Schip, (…) omdat het schip vertrokken is, en als het schip vertrokken is, betekent dit dat het niks voorstelde, niks noppes nada.’
Die betekenisloosheid lijkt moeilijk te aanvaarden voor de Napolitanen. Oké, het schip heeft niets gedaan en niets aantoonbaars veranderd, maar het is wel verschenen. Daarmee is het op zijn minst een herinnering, een verhaal, en op een dag wellicht een legende, overgeleverd aan talloze interpretaties.
De Napolitanen willen niets liever dan dat het vreemde schip iets betekent. Een schip is tenslotte een doelgericht object. Het moet iets doen, het moet ergens heen.
Maar dat doet het niet. Het is verdwenen alsof er niets is gebeurd. Dat maakt het schip fascinerend: iedere interpretatie ervan schiet tekort. Het ongemak, de weerstand die de verschijning van het schip biedt, is niet te overwinnen? Moet moeite dan altijd kennis of vaardigheden opleveren om waardevol te zijn? Of zit er ook waarde in de inspanning om te verdragen dat er geen antwoord is, geen kennis?
Dat is in ieder geval niet aan de zwarte Toyota besteed. Deze ondoorzichtige kluwen trekt conclusie na conclusie, maar hoeft zichzelf nooit uit te leggen. De wagen is afstotelijk griezelig omdat-ie aanpassingsvermogen van mij verlangt en geen tegenspraak duldt.
Inmiddels ben ík de weerstand geworden die de Toyota probeert te overkomen, in plaats van andersom. Ik ben de afwijking van zijn model van de ‘goede’ bestuurder. De vage agent van de technologie probeert daarmee ook een bepaalde weerstandloosheid te bereiken, maar handelen doet hij niet, niet in Arendts zin.
Hoogstens wordt het handelen gesimuleerd door de weerstand (mij dus) steeds preciezer waar te nemen, te leren kennen, te controleren en uiteindelijk te overwinnen. Ironisch genoeg blijkt de mens zelf het obstakel te moeten worden om andere obstakels uit te bannen. Meer specifiek: de menselijke spontaniteit, het vermogen om iets anders te doen dan wat van tevoren is vastgesteld.
In tegenstelling tot de zwarte auto laat het Zwarte Schip wel ruimte bestaan voor fascinatie. Hoe graag de Napolitanen ook willen, ze kunnen het schip niet leren beheersen, besturen of kennen, het laat zich niet vangen. Ze mogen eraan twijfelen, erover speculeren, ze kunnen het zelfs wegwuiven als ‘niks noppes nada’. Maar het biedt de Napolitanen een vrije relatie met de wereld die ineens vreemder blijkt te zijn dan ze hadden gedacht. In die open relatie ligt de waarde van weerstand besloten. Pas als de uitkomst onzeker is en alle kanten op kan, zijn we vrij om volledig mens te zijn.
Piep! Daar is weer een knipperend symbooltje op het scherm achter mijn stuur. Dit keer van een stomend kopje koffie. ‘Would you like to take a break?’
We zijn net een half uur verder dan het vorige tankstation. Zeker langs de Route du Soleil zijn ze allemaal verschrikkelijk. Enorm, bloedheet, ongemakkelijk en vol andere mensen. Heel veel andere mensen. Mensen in de rij voor de laadpalen, in de rij voor de toiletten, in de rij voor de kassa. Ze lopen je voor de voeten, houden alle picknicktafels bezet, roken sigaretten en pissen tegen de hekken die de vergeelde grasveldjes omheinen. Ze rijden in auto’s vol verdrietige tieners en hijgende hondjes en wijzen ontzet naar vrachtwagens met varkens die al zijn gestikt van de hitte nog voor ze bij het slachthuis zijn aangekomen.
Bij het tankstation is het handelen geblazen. Ja, het is er smerig, het stinkt, het is er lelijk, maar griezelig is het er niet. Er is tenminste iemand, en niemand hier is normaal.
Geselecteerd door de redactie
Source: Volkskrant