is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Bericht één: Meta wil gezichtsherkenning verwerken in zijn AI-brillen. Het moederbedrijf van Instagram, WhatsApp en Facebook weet zelf ook wel dat dit controversieel is. ‘We lanceren (de functie) in een dynamisch politiek klimaat, waarin veel maatschappelijke organisaties waarvan we verwachten dat ze ons zouden aanvallen, hun middelen op andere zaken hebben gericht’, zo citeert The New York Times uit een intern memo van Meta. Het is schaamteloos opportunistisch en cynisch.
Bericht twee: de Amerikaanse overheid heeft Meta en andere techbedrijven honderden dagvaardingen gestuurd om informatie te krijgen over gebruikers van socialemedia-accounts die immigratiepolitie ICE volgen en bekritiseren. Het verleden wijst uit dat Meta veel van dat soort verzoeken inwilligt.
Tel bericht één en twee bij elkaar op en je zit in een technologische nachtmerrie waarvan zowel George Orwell als Aldous Huxley wakker zou liggen. De twee gelden als de oervaders van de moderne dystopie, maar hadden met hun respectieve boeken 1984 (uit 1949) en Brave New World (1932) een totaal andere benadering.
Orwell beschreef een wereld waarin mensen constant de laars moeten vrezen die op het menselijk gezicht stampt. Een wereld ook waar de staat (Big Brother) 24 uur per dag toezicht houdt, censuur toepast en de waarheid verbergt en verdraait. Het lijkt warempel wel de VS onder Trump.
Daar tegenover staat de heerlijke nieuwe wereld van Huxley, die één groot pretpark is. Volgens de Brit is er geen kracht van buitenaf nodig om mensen te onderdrukken en hun autonomie te ontnemen, maar doen ze dat zelf door díé technologie te omarmen die hun capaciteit om te denken onderuithaalt. Vertaald naar nu: mobiele telefoons. Of chatbots.
Orwell vreesde dat wat we haten ons zou vernietigen; Huxley vreesde dat wat we liefhebben ons zou vernietigen, zo vatte techcriticus Neil Postman de verschillen tussen de twee in 1985 bondig samen. Volgens hem konden we beter naar Huxley luisteren dan naar Orwell als we willen weten hoe een dystopie eruitziet. Eerlijk is eerlijk, dat dacht ik ook.
Maar ik vrees dat een andere bekende techcriticus, Evgeny Morozov, in 2011 toch gelijk had. In zijn boek The Net Delusion betoogt hij dat de strikte tweedeling tussen Orwell en Huxley verouderd is en dat moderne autoritaire regimes beide methoden combineren. Ze gebruiken orwelliaanse surveillance en censuur om dissidenten aan te pakken en zetten tegelijkertijd huxleyaanse afleiding in om de massa tevreden en gedepolitiseerd te houden.
‘Het is tijd om de twee visies samen te voegen en te remixen’, aldus Morozov. In de Verenigde Staten hoef je straks alleen nog maar je AI-bril van Meta op te zetten en naar kritische medeburgers te kijken in een demonstratie tegen immigratiedienst ICE en deze dystopische remix gebeurt vanzelf.
‘Ik heb niets te verbergen’, luidt het uitgewoonde cliché. Andere mensen wel. Denk daaraan als u straks uw Meta-bril opzet.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant columns