Om de wereld te behoeden voor terreuraanvallen met biologische wapens zoals dodelijke horrorvirussen uit het lab moeten leveranciers van biomoleculen hun klanten beter gaan controleren. Door de opkomst van AI wordt het steeds makkelijker om een gevaarlijk nieuw virus uit te dokteren.
is wetenschapsredacteur bij de Volkskrant, gespecialiseerd in klimaat en microleven.
Met die oproep komt een opmerkelijk gezelschap van AI-bonzen, onder wie Sam Altman van OpenAI, Dario Amodei van Anthropic en Demis Hassabis van Google’s AI-lab. Ook kopstukken van de AI-takken van Microsoft en Meta tekenden mee. De oproep is ‘een zeldzaam moment van eensgezindheid’ tussen de techbazen, signaleert de groep concurrenten zelf, in de open brief.
De ondertekenaars, onder wie ook tientallen bekenden uit bedrijfsleven en wetenschap, willen dat leveranciers van biologische DNA- of RNA-bouwstenen hun bestellingen gaan doorvlooien op ‘sequenties van zorg’. Ook moeten de bedrijven die stukjes erfelijk materiaal leveren beter controleren of klanten wel te vertrouwen zijn.
Of het echt denkbaar is dat kwaadwillenden een biologisch wapen fabriceren, is geen uitgemaakte zaak, erkennen de ondertekenaars van de open brief, die in eerste instantie is gericht aan het Amerikaanse Congres. Maar door AI wordt het wel makkelijker, aldus de scribenten. ‘De trend valt lastig te ontkennen.’
De oproep komt op een pikant moment: daags nadat de Amerikaanse president Donald Trump een decreet had getekend om nieuwe AI-modellen beter te controleren. Hoewel vies van overheidsbemoeienis eist Trump dat nieuwe AI-modellen voortaan eerst 30 dagen worden doorgelicht door de overheid, om te controleren of ze eenmaal publiek beschikbaar geen gevaar vormen voor de cyberveiligheid.
Daarmee is de eerste belangrijke regulering van AI uit Trumps tweede termijn een feit. Al heeft de president het decreet wel flink afgezwakt: aanvankelijk was het idee dat de overheid niet één, maar drie maanden de tijd zou krijgen om nieuwe AI-modellen vooraf te testen. Maar dat zou de industrie te veel vertragen, betoogden de AI-bedrijven, gesteund door Trumps voormalige AI- en crypto-tsaar David Sacks.
Veel bedrijven die stukjes erfelijk materiaal aanleveren, controleren bestellingen overigens al. Maar verplicht zijn de checks niet, en dat moet anders, vinden de briefschrijvers. Ook moeten de toeleveranciers beter vastleggen welke opdrachten ze krijgen en wie hun klanten zijn. Zo kan een eventueel biologisch gevaar ‘dat ontsnapt aan initiële controle terug worden gevolgd naar de bron’, aldus de groep.
Het risico van zelfgemaakte biologische wapens achtervolgt de biologische industrie al zeker sinds de jaren negentig, toen de Japanse sekte Aum Shinrikyo in de Japanse metro een aanval uitvoerde met het zenuwgas sarin. Daarbij stierven dertien mensen. Enkele jaren later kwamen in de VS vijf mensen om bij een reeks briefaanvallen met gedroogde antrax (miltvuur).
Het gevaar op een vorm van AI die door digitale veiligheidssystemen breekt, werd intussen op scherp gezet door vooral Anthropic-model Mythos. Het model blijkt in staat razendsnel lekken te vinden in software. Dat kan de deur openen naar grootschalige cyberaanvallen, vrezen kenners. Inmiddels geeft Anthropic het AI-gereedschap gaandeweg vrij: deze week maakte het bekend dat 150 organisaties in meerdere landen het model kunnen gaan gebruiken, overigens vooral om veiligheidslekken bij zichzelf op te sporen.
Alles over wetenschap vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant