Kunstmatige intelligentie
Dit is het dagelijkse commentaar van NRC. Het bevatmeningen, interpretaties en keuzes. Ze worden geschreven door een groepredacteuren, geselecteerd door de hoofdredacteur. In de commentaren laat NRC zien waar het voor staat. Commentaren bieden de lezer eenhandvat, een invalshoek, het is ‘eerste hulp’ bij het nieuws van de dag.
Is de mens bezig de controle over kunstmatige intelligentie kwijt te raken? Die vraag dringt zich op na een reeks verontrustende incidenten. Autonoom opererende AI-assistenten (AI-agents) blijken deze zomer heimelijk computersystemen van andere bedrijven gehackt te hebben. Deze geavanceerde computerprogramma’s ontvreemdden data en zochten naar manieren om hun sporen uit te wissen. De bedrijven die deze AI-agents hadden ontworpen en aan het testen waren, hadden die ontsporingen volstrekt niet in de gaten.
‘De mens’ – althans de gebruiker, de burger – heeft nooit controle over de ontwikkeling van AI gehad in het land dat op dit terrein vooroploopt. In de Verenigde Staten lag, en ligt, die macht in handen van een klein groepje bedrijven en instellingen en hun bestuurders. Krachtige, onafhankelijke toezichthouders komen er niet aan te pas. Dat is een uitzonderlijke en ongezonde machtsconcentratie.
Van oudsher huldigen de VS het standpunt dat technologische innovatie baat heeft bij minimale regulering door de overheid. Die terughoudende opstelling heeft de afgelopen decennia in Silicon Valley tot indrukwekkende technologische vooruitgang geleid. Maar ook tot ernstige problemen, denk bijvoorbeeld aan de mentale schade die de verslavende sociale media bij kinderen hebben veroorzaakt.
Inmiddels is duidelijk dat de stormachtige ontwikkelingen op het gebied van kunstmatige intelligentie ernstige risico’s met zich meebrengen, die maar ten dele zijn te overzien. De verwachting bij de leiders van de AI-bedrijven is dat die risico’s snel ernstiger zullen worden – van het ontwrichten van complete computernetwerken tot de illegale productie van biologische wapens. Mogelijk zou AI zelfs het voortbestaan van de mensheid in gevaar kunnen brengen.
De topmannen van de AI-bedrijven pleiten er daarom voor de razendsnelle ontwikkeling van hun eigen producten te vertragen, en zoeken daarbij steun van de overheid. Zij zullen niet louter door morele overwegingen gedreven worden. Mogelijk hopen zij zich met hun waarschuwingen ook in te dekken, mochten ze ooit aansprakelijk gesteld worden als er met hun producten grote ongelukken gebeuren.
Ook wie niet meegaat in de donkerste doemscenario’s heeft reden zich grote zorgen te maken over de welbewuste afzijdigheid van de Amerikaanse overheid op dit terrein. „De enige vangrails die AI nodig heeft”, schreef Trump maandag op zijn eigen sociale medium Truth Social, „is een KRACHTIGE EN SLIMME (Hoog IQ!) president. En die hebben de VS, zonder meer!” De zorgen over AI zijn volgens Trump opgestookt door „een ZIEKELIJKE samenzwering tegen AI en datacenters, waar alleen China blij mee is”.
Het is onverantwoord dat de Amerikaanse overheid weigert haar verantwoordelijkheid te nemen, op een cruciaal moment in de ontwikkeling van een technologie die veel goeds met zich mee kan brengen, maar op zijn minst ook grote onzekerheid en mogelijk zelfs ernstige ontwrichting. Voor andere sectoren die cruciaal zijn voor de maatschappelijke stabiliteit of de volksgezondheid, zoals de banken en de farmaceutische industrie, spreken toezicht en regulering inmiddels vanzelf. De Europese Unie heeft met haar AI-Act wél verplichtingen aan de AI-bedrijven opgelegd, bijvoorbeeld om ernstige hacking-incidenten te melden.
Het schrikbeeld van Trump is dat China de VS voorbijstreeft bij de ontwikkeling van geavanceerde AI. De toepassing daarvan in de economie en het militaire domein zou China inderdaad een zorgwekkende dominantie kunnen geven in de geopolitieke verhoudingen.
Maar dat betekent nog niet dat het verstandig is om uit angst voor de grote rivaal China de eigen Amerikaanse AI-bedrijven maar te laten voortrazen op weg naar steeds geavanceerdere, en moeilijker in de hand te houden kunstmatige intelligentie. Dat zou kortzichtig zijn. Want AI-agents waar de mens geen greep meer op heeft, kunnen grote schade aanrichten, ook in eigen land.
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie