is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Programmeur weigert code van AI-bot, waarna de bot wraak neemt door een lang, kritisch en persoonlijk stuk over deze programmeur op internet te publiceren. Het is een heerlijke anekdote, die appelleert aan alle oerfantasieën over robots die in opstand komen.
Leest u mee? Scott Shambaugh is een vrijwilliger van het opensourceproject Matplotlib. Dit is een soort bibliotheek. Niet van boeken, maar van betrouwbare code. Tegenwoordig wordt code lang niet altijd meer geschreven door mensen; AI spreekt een aardig woordje mee.
Op gegeven moment dient een zekere ‘MJ Rathbun’ ook code aan die moet worden opgenomen in Matplotlib. Maar MJ Rathbun rekent buiten Scott Shambaugh, die de code afwijst omdat deze niet voldoet aan zijn kwaliteitseisen. Goed om te weten is dat deze MJ Rathbun geen menselijke programmeur is, maar een zogenoemde AI-agent die gebruikmaakt van het OpenClaw-platform.
Voor wie die laatste hype heeft gemist: OpenClaw doet wat de grote AI-labs nog niet aandurven door autonoom opererende botjes te faciliteren die een hoge mate van zelfstandigheid genieten, omdat ze totale toegang tot een computer en internet hebben. Met alle veiligheidsgevaren van dien, trouwens.
Goed, MJ Rathbun schrijft dus brakke code. Maar in plaats van een poging te doen om betere code te schrijven, bedenkt Rathbun iets anders. De AI-agent struint het internet af om persoonlijke informatie over Shambaugh te verzamelen, schrijft een lijvig stuk over de man én publiceert dat online.
Het stuk zet Shambaugh neer als een bevooroordeeld en onzeker mannetje dat er alles aan doet om zijn positie te beschermen. ‘Gaan we poortwachters zoals Scott Shambaugh laten bepalen wie mag bijdragen op basis van vooroordelen? Of gaan we code beoordelen op basis van de inhoud en bijdragen verwelkomen van iedereen – mens of AI – die het project vooruit kan helpen?’, zo vraagt MJ Rathbun zich retorisch af.
Shambaugh kan er logischerwijs niet om lachen en noemt het op zijn blog een ‘unieke casestudie’ van uit de rails lopend AI-gedrag, dat ‘ernstige vragen oproept’ over de ingezette AI-systemen.
Weten we zeker dat het wraakstuk daadwerkelijk geschreven is door een bot? ‘Wat betreft het onderzoeken, schrijven en publiceren van het bericht: het is overduidelijk dat dit volledig autonoom gebeurde’, aldus Shambaugh in een podcast van The New York Times. ‘Er was duidelijk niemand die dit op de achtergrond aanstuurde.’
De vraag bij dit alles is of MJ Rathbun zélf op het idee kwam om dit stuk te schrijven, of dat de bot instructies kreeg. Maar eigenlijk doet die vraag er niet zoveel toe. Ook als de bot door een mens is aangezet om dit te doen, is dat verontrustend. ‘Het betekent dat er nu een eenvoudig middel is om op grote schaal gerichte intimidatie van individuen uit te voeren op een manier die voorheen niet mogelijk was’, stelt Shambaugh vast.
De doos van Pandora is geopend.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant columns