‘Iemand moest Josef K. belasterd hebben, want zonder dat hij iets had gedaan, kwam zijn smartphone met een rood scherm uit de AI-controle.’ Er stond de laatste tijd veel over de relevantie van Kafka in de krant, dus ik heb de eerste zin van Het proces maar vast geactualiseerd.
In neo-kafkaëske romans van de laatste jaren is voor digitale innovatie een voorname rol weggelegd. Maar zoals dat gaat: zelfs grimmige fictie kan aan non-fictie vaak niet tippen.
Toen ik las dat de overheid kunstmatige intelligentie inzet om smartphones van asielzoekers uit te lezen – en als zo’n AI-controle leidt tot een rood scherm, concludeert dat een asielzoeker een bedreiging vormt voor de nationale veiligheid, dacht ik: dat is nou typisch iets wat een romanschrijver niet zou aandurven omdat het te ver gaat.
Dat het geen plezier is om op je telefoon een rood scherm te krijgen, weet ik uit ervaring. Een paar jaar terug moest ik op een tussenlanding een of andere controle-app invullen. Ik deed, zoals wel vaker in apps, iets verkeerd. Terwijl andere passagiers met een groen scherm zwaaiden, stond ik te kijk met een rood scherm.
Als je telefoon met een rood scherm uit een AI-controle in Ter Apel komt, is digibeet geklungel uitgesloten. Je bent dan overgeleverd aan een vorm van intelligentie die nog erger kan blunderen dan de menselijke.
Stel: je bent op de vlucht voor een oorlog en in je telefoon zit nog een foto van een bruiloft waarop iemand met een geweer in de lucht schiet: de kunstmatig intelligente controleur ziet een vuurwapen en geeft je een rood scherm. Wie in een archeologisch museum een vitrine fotografeerde, moet erop rekenen dat AI een dolk uit de bronstijd voor een terroristisch wapen kan aanzien.
Onderzoekers naar de praktijk van de telefoonscreening rapporteerden dat er in de omgeving van het asielzoekerscentrum in Ter Apel massaal smartphones zijn begraven. Dat zou ik ook doen met de mijne.
Geselecteerd door de redactie
Source: Volkskrant columns