Strijden tegen de ‘giftige’ business van big tech kan wel degelijk, aldus Signal-baas Meredith Whittaker. Maar krampachtig proberen daaraan te ontsnappen, is volgens haar niet de oplossing. Hoe strijdt ze dan wel tegen wat zij het ‘surveillance-kapitalisme’ noemt?
is onderzoeksjournalist bij de Volkskrant met als specialisatie cybersecurity en inlichtingendiensten.
De baas van Signal, het best beveiligde en meest privacyvriendelijke communicatieplatform met wereldwijd honderden miljoenen gebruikers, heeft WhatsApp en Telegram op haar telefoon staan. Meredith Whittaker kiest Uber voor het bestellen van taxi’s en houdt afspraken bij in Google Calendar – het bedrijf dat ze in 2019 verliet, nadat Google software was gaan ontwikkelen waarmee het Amerikaanse leger mensen zou kunnen doden. ‘Het is duidelijk dat Google niet de plek is waar ik kan blijven werken’, schreef ze in haar afscheidsbrief.
En toch heeft de Amerikaanse Whittaker, prominent criticus van het ‘giftige’ businessmodel van big tech, een smartphone met apps van bedrijven uit Silicon Valley. Hun technologieën zijn vervlochten met het dagelijks leven, houden gebruikers minutieus in de gaten én exploiteren ons, vertelt ze.
Ze typeert het als ‘surveillance-kapitalisme’: winst maken door gigantische hoeveelheden data over gebruikers te verzamelen en die te verkopen aan adverteerders. Maar, vindt ze ook: krampachtig proberen daaraan te ontsnappen, is niet de oplossing. ‘Tegen individuen zeggen: sta op en gooi die telefoon weg, is uiteindelijk een zeer ontmoedigende boodschap.’
Liever bepleit ze een brede, structurele verandering. Het is een verhaal dat interesse wekt, blijkt als ze begin juli voor debatplatform De Dependance naar Rotterdam komt. De theaterzaal zit op een hete zomerdag zo goed als vol; bijna zevenhonderd mensen luisteren instemmend naar de retorisch begaafde Whittaker.
Sinds de Amerikaanse verkiezing en Donald Trumps openlijke flirt met de machtigste technologiebedrijven is het gebruik van Signal in Nederland geëxplodeerd. Het aantal nieuwe registraties ligt op dit moment 25 keer hoger dan begin januari; ruim twee miljoen Nederlanders gebruiken de app en Nederland staat wereldwijd in de top 5 van landen met meeste Signalgebruikers.
Signal is in alles het tegenovergestelde van big tech: het is een stichting, neemt geen geld aan van investeerders, is afhankelijk van donaties. Het heeft geen advertenties en verzamelt zo min mogelijk data over zijn gebruikers. De onderliggende techniek is open source, wat betekent dat de code openbaar is. Het garandeert vertrouwelijkheid: geen opsporingsdienst ter wereld kan bij de inhoud komen. Ook Apple en Meta gebruiken de ‘gouden’ versleutelingstechniek van Signal voor het versturen van berichten.
Het Rotterdamse publiek wil vooral concrete tips. Hoe kunnen ze, vragen ze Whittaker, uit dat alomvattende surveillancemodel van Silicon Valley stappen? Haar antwoord: ‘Als je dat nastreeft, eindig je alleen in een bos. Zonder vrienden, zonder werk, zonder sociaal contact.’
Twee dagen na die avond zit Whittaker met een laptop op schoot in het Soho House in Parijs. Haar leeftijd vertelt ze niet en ze praat niet over familie. Ze pendelt tussen haar woonplaats New York en de Franse hoofdstad om zo dichter bij de groeiende Europese markt te kunnen zijn. Op tafel ligt haar smartphone. Wijzend: ‘Het houdt je locaties bij, je bewegingen, je nabijheid. Het kan data over meerdere platforms verzamelen en analyseren. Het volgt je. Het weet dat jij en ik hier tegenover elkaar zitten.’
Het verbaasde me daarom dat u in Rotterdam zo duidelijk zei dat u die smartphone en apps van big tech gebruikt omdat u óók een leuk leven wilt leiden.
‘Hier is de vergelijking. Als je in Los Angeles wilt wonen, moet je een baan hebben. Je kinderen gaan naar school. Je wilt je vrienden kunnen zien. Kun je dan zeggen dat je geen auto zult gebruiken?’
Waarschijnlijk niet.
‘Nee. Zonder auto is het niet mogelijk een normaal leven te leiden in Los Angeles. We zijn onderdeel van een bepaalde context. De verantwoordelijkheid bij individuen leggen, leidt af van de vraag hoe we werkelijke verandering laten plaatsvinden. Hoe we de status quo verschuiven die nu voorschrijft dat we voor onze sociale relaties een telefoon nodig hebben.’ WhatsApp gebruikt ze voornamelijk voor de groepen, die meer deelnemers kunnen hebben dan op Signal.
In 2006 ging Whittaker bij Google werken. Ze had retorica en Engelse literatuur gestudeerd. Ze kende het Amerikaanse bedrijf amper, maar zocht een baan. Dat ze geen technische achtergrond had en wél geschoold was in kritisch denken, maakte dat ze eindeloos vragen stelde om het bedrijf te begrijpen. ‘Wat zijn data? Hoe maak je data? Waar gaan ze naartoe? Hoe verdienen jullie geld?’
Ze maakte snel carrière. Richtte Open Research op om wetenschappelijke artikelen doorzoekbaar te maken en was medeoprichter van AI Now, dat onderzoek doet naar de ethiek en sociale impact van AI. Dat bracht haar meer en meer in conflict met haar eigen bedrijf, dat afdreef van zijn ethische normen en voor het grote geld koos. ‘Ik begon kleine verschuivingen te zien: ‘We gaan een beetje meer data verzamelen van verschillende platforms. En we gaan die samenvoegen om advertenties te verkopen.’ Vele, vele kleine grenzen werden gaandeweg overschreden.’
Kantelpunt was de beslissing van Google om surveillance- en targetingsystemen te bouwen voor het Amerikaanse leger. ‘Terwijl we wisten hoe gebrekkig die technologie is en ongeschikt voor dat doel.’ Whittaker stapte op, werd adviseur kunstmatige intelligentie bij de machtige Federal Trade Commission, sprak op hoorzittingen in het Amerikaanse Congres en werd door Time gekozen tot een van de honderd invloedrijkste personen op het gebied van AI. In 2022 werd ze baas van de Signal Foundation en nu is ze de aanvoerder van een mondiale beweging die steeds kritischer staat tegenover big tech.
Dat vier topbestuurders op het gebied van kunstmatige intelligentie – afkomstig van databedrijf Palantir, Meta en OpenAI – onlangs onderdeel werden van het Army Transformation Initiative en het leger helpen om efficiënter en dodelijker te worden, bevestigt de zwarte scenario’s waarvoor Whittaker al tien jaar waarschuwt. Dat de techindustrie amoreel en giftig is en er niet voor terugdeinst zichzelf uit te leveren aan de hoogste bieder. En dat omgekeerd de Amerikaanse overheid hun surveillancemodel en invasieve technologie ziet als geopolitieke middelen.
Het is een ontwikkeling die iedereen zou moeten alarmeren, maar Whittaker reageert behoedzaam als ze ernaar wordt gevraagd. Ze moet haar woorden wegen nu technologie in het politieke domein is gekomen en elke uitspraak over Trump zijn toorn kan wekken. Whittaker: ‘Het laat mij zien dat de Amerikaanse overheid zich heel bewust is van haar afhankelijkheid van technologie.’
Ondanks deze ontwikkelingen lijkt een substantieel deel van de bevolking maar moeilijk te bewegen om de overstap naar Signal te maken. Een app die net zo goed werkt als WhatsApp, maar zonder dubieus businessmodel.
‘Als je er een individuele keuze van maakt, zeg je: je moet overstappen, anders ben je slecht. Doen mensen dat niet, dan heb je laten zien dat ze het niet belangrijk vinden. Dat is een verkeerde voorstelling van zaken. Net zoals het ongelooflijk irritante uitgangspunt dat mensen niet om privacy zouden geven.’
Waaruit blijkt dat mensen daar wel om geven?
‘In Williamsburg in New York is er letterlijk geen plek meer over voor Apple om advertenties op te hangen waarmee ze hun diensten als privacyvriendelijk aanprijzen. Hun morele besef, voor zover dat er bij Meta en WhatsApp nog is, is gebaseerd op het feit dat WhatsApp zegt beveiligd en versleuteld te zijn.’
En toch is de stap van WhatsApp naar Signal voor veel mensen ingewikkeld. Willen ze, uit gewoonte wellicht, niet de moeite nemen een nieuwe app te installeren?
‘Ik denk niet dat dit aantoont dat ze niet om privacy geven. Kijk naar 2021: drie maanden nadat WhatsApp had aangekondigd toch data te gaan delen met Meta, stonden wij in zeventig landen bovenaan in de App Store. Ik denk wél dat het laat zien dat het netwerkeffect heel sterk is: als je vrienden niet op Signal zitten, is het heel moeilijk om Signal te gebruiken, want je hebt niemand om mee te praten.’
Signal zet daarom zo veel mogelijk in op ‘gebruikersvriendelijkheid’. Voorbeeld: mensen willen graag gifjes – bewegende plaatjes – naar vrienden kunnen sturen. Giphy biedt daarvoor technologie. Diensten als WhatsApp hebben Giphy geïntegreerd in hun platform, maar het nadeel daarvan is dat er ook gebruikersdata van WhatsApp naar Giphy gaan, zoals zoektermen waarmee gebruikers naar gifjes zoeken. Signal wil dat pertinent niet.
Whittaker: ‘Dus in plaats van dat onze technicus een verbinding opzet, twee uur werkt en een cappuccino neemt, gaat een heel team maandenlang aan de slag om te kijken hoe we Giphy zo kunnen integreren dat er geen gebruikersdata worden weggegeven.’ Met een beperkt budget – ongeveer 50 miljoen dollar per jaar, WhatsApp heeft een omzet van 1,3 miljard dollar – en een team van rond de vijftig personen is dat een significante investering voor een basale functie.
Hoe overtuigt u mensen als ze zo slecht de gevolgen ervaren van wat u het giftige businessmodel van big tech noemt? Ik hoor nog steeds schampere reacties als ‘ik heb toch niets te verbergen’.
‘Sluit je ogen, beste lezer. Beeld je nu in: elk bericht dat je ooit in je leven hebt verstuurd, vanaf de middelbare school, wordt nu online gepubliceerd. En een link naar dat archief is gestuurd naar iedereen die je ooit hebt gekend. Iedereen kan op die link klikken, toegang krijgen tot dat archief, z’n eigen naam opzoeken, een AI-samenvatting krijgen waarover je hebt gesproken. Ze lezen alles wat je ooit schreef, die rotopmerking, dat moment dat je over je baas roddelde, de keer dat je vreemdging, dat je loog – alles staat erin. Hoeveel van je relaties zouden dat overleven?
‘Mensen geven om privacy wanneer je het in de context van hun leven en relaties plaatst. Maar heb je het over dataminimalisatie of ‘eigenaar van data zijn’ – dan is het veel te abstract en vreselijk saai.’
Kennelijk ervaren mensen het gebruik van Microsoft, Amazon en Apple niet als een aanslag op hun privacy.
‘Ik denk dat ze geen praktische keuze hebben. Voor privécommunicatie kun je Signal gebruiken, maar voor andere infrastructuren bestaan dergelijke alternatieven niet. 70 procent van de wereldwijde cloudmarkt is in handen van drie Amerikaanse partijen: Google, Amazon en Microsoft.’
Maar waar ervaren ze de consequenties van wat die bedrijven met hun data doen?
‘Je gaat naar een dokter in de Verenigde Staten en ineens wordt de kosten niet gedekt. Komt dit doordat een algoritme op de achtergrond jouw socialemediadata en andere data heeft doorgespit en een profiel heeft gemaakt dat zegt: deze persoon kunnen we niet verzekeren vanwege gezondheidsrisico’s? Dit gebeurt. Je vraagt een lening aan bij de bank, maar krijgt die niet. Is dit omdat een algoritme – getraind met dubieuze data – je heeft gekwalificeerd als iemand die zijn lening waarschijnlijk niet terugbetaalt?
‘Veel hiervan gebeurt achter een sluier van bedrijfsgeheimen en business-to-businessrelaties, waardoor de gevolgen van die data – het feit dat die zijn gebruikt om jou bijvoorbeeld de toegang tot iets te ontzeggen of je te volgen – niet direct te herleiden zijn naar de bron. Dus mensen voelen de gevolgen dagelijks, maar hebben geen zicht op het grotere verband tussen gevolg en oorzaak. Het is niet dat mensen dom zijn – een netwerk van factoren maakt ze machteloos.’
Signal doet het anders, maar is een uitzondering. Hoe zorgt u ervoor dat Signal niet de palmboom in de woestijn is?
‘Het verhaal rondom technologie moet veranderen, dus ook rondom de AI-hype, de misvatting dat technologie synoniem zou zijn aan wetenschappelijke vooruitgang en innovatie. Er komt al een tijd weinig echte innovatie uit de technologiesector. We zien vooral een herhaling van dezelfde bedrijfslogica, hetzelfde verdienmodel gebaseerd op surveillance.
‘Als we echte innovatie willen, moeten we kijken naar manieren om de woestijn te laten herleven. Hoe creëren we technologie die rechten respecteert? Hoe maken we technologieën die democratie en soevereiniteit eerbiedigen? Technologie die privacy respecteert en die een toekomst mogelijk maakt waarin we willen leven?’
Ze noemt AI een ‘elitebubbel’, van mensen die dollartekens zien en in hun eigen verhaal zijn gaan geloven. Wijst op een recent rapport van Gartner, dat duizenden zogenaamde AI-agenten onderzocht – die geautomatiseerd taken uitvoeren. In werkelijkheid bleken er maar 130 te kwalificeren als echte AI-agenten. ‘Mensen die met AI in aanraking komen, denken vooral: deze klantenservicebot is echt irritant; deze zelfscankassa is zo dom; deze AI-functies die WhatsApp erin propt, zijn nutteloos en maken mijn scherm vol.’
Hoe verklaart u de enthousiaste gretigheid waarmee bedrijven AI omarmen?
‘Er is veel hype, maar zien we ook echt enthousiasme? Want als ik schrijf dat Signal geen AI zal integreren – graag gedaan – krijg ik enorm veel positieve reacties: ‘Godzijdank, dat spul is echt irritant.’’
En al die bedrijven die nu wel AI gaan integreren...
‘Is dat enthousiasme, of gaat het om marktgedreven druk? Ik zie een bubbel van investeerders, van oprichters die hopen te cashen.’
In Rotterdam stelde een ambtenaar uit het publiek u een vraag. Ze was namens de gemeente verantwoordelijk voor het opzetten van een AI-lab, maar wist niet waar te beginnen.
‘Ja, ik dacht: een AI-lab, wat is dat eigenlijk? Gaan jullie met je beperkte middelen je eigen taalmodellen trainen? Het laat zien dat zo’n gemeente druk ervaart om iets met AI te doen. Haar vraag toont de onzekerheid bij mensen die het eigenlijk niet begrijpen.’
Sommige functies, zoals vertalen of coderen, zijn nuttig.
‘We hebben al langer automatische vertalingen, en die werken best goed, maar ze vervangen geen professionele vertaler als je echt betekenis en technische nauwkeurigheid wenst. Hetzelfde geldt voor coderen: als je heel GitHub of StackOverflow binnenhaalt, krijg je een ‘gemiddeld’ niveau van coderen. Je hebt altijd mensen nodig om te checken of het niet onveilig is of vol bugs zit.’
Signal heeft het momentum mee en dat betekent ook dat het platform, en Whittaker, meer in de frontlinie komen te liggen. Er was Signalgate, waarbij de hoofdredacteur van The Atlantic werd toegevoegd aan een groepsapp op Signal en zag hoe de Amerikaanse minister van Defensie er gedetailleerde militaire aanvalsplannen deelde. Een mediastorm volgde. Whittaker leidde dag en nacht een crisisteam van zes personen.
Hoe was dat voor jullie?
‘Het was een bevestiging van wat we al wisten: overheden wereldwijd vertrouwen op de versleutelde communicatie via Signal.’
Maar er werden ook vragen gesteld over de beveiliging van Signal.
‘Zeker. We wilden in alle ophef meteen het verhaal de kop indrukken dat Signal onveilig zou zijn, want het was duidelijk dat het om een gebruikersfout ging. Er was bijvoorbeeld een NPR-artikel dat onnauwkeurig was en phishingberichten op Signal presenteerde als kwetsbaarheid – slordige berichtgeving door iemand die normaal niet over technologie schrijft.’
Raakt dat jullie?
‘We zijn daar extra gevoelig voor omdat dat soort berichtgeving – ‘kwetsbaarheid in Signal’ – misbruikt kan worden in desinformatiecampagnes die erop gericht zijn verwarring te zaaien over ons platform en mensen naar minder veilige alternatieven te lokken.’
Zijn die er veel?
‘Ja, we denken bewijs te zien dat die campagnes bestaan. Hetzelfde soort framing en deze verhalen duiken bij tijd en wijle overal op. We kunnen raden waar het vandaan komt, maar... daar laat ik het even bij.’
Geselecteerd door de redactie
Source: Volkskrant