Meer dan honderd internationale organisaties slaan alarm over de explosieve groei van 'nudifying tools'. In een gezamenlijk manifest eisen zij een wereldwijd verbod op AI-software die mensen op foto’s digitaal uitkleedt. Ook Nederlandse instanties, waaronder de gemeente Amsterdam en expertisebureau Offlimits, hebben hun steun voor het verbod uitgesproken.
De ondertekenaars van het manifest winden er geen doekjes om: de technologie vormt een directe dreiging voor de veiligheid van vrouwen, meisjes en kinderen. De zogenoemde 'deepfake-naaktbeelden' worden op grote schaal misbruikt voor chantage, seksuele uitbuiting en intimidatie.
Volgens Robbert Hoving, bestuurder van Offlimits, is de impact op slachtoffers verwoestend. Hoewel de beelden door kunstmatige intelligentie zijn gegenereerd, voelt de schade voor het slachtoffer als een daadwerkelijke schending van de privacy. "Slachtoffers kunnen niet meer slapen en durven niet meer naar school. Het leidt tot grote paniek en in extreme gevallen zelfs tot suïcidale gedachten," aldus Hoving.
De werkwijze van daders verschilt per doelgroep. Bij meisjes is vaak sprake van sextortion, waarbij zij worden gedwongen tot echte seksuele handelingen. Bij jongens ligt de focus vaker op financiële afpersing.
Grenzen van de wet
Hoewel veel van deze toepassingen in Nederland al illegaal zijn, wijst de praktijk uit dat lokale wetgeving tekortschiet. "Wetgeving stopt bij de grens," legt Hoving uit. De coalitie roept overheden daarom op om binnen twee jaar met geharmoniseerde internationale wetten te komen. Alleen door de verkoop en verspreiding wereldwijd aan te pakken, kan worden voorkomen dat daders simpelweg uitwijken naar software uit andere landen.
Niet alleen de politiek, maar ook tech-reuzen worden ter verantwoording geroepen. Onlangs lag het platform X (voorheen Twitter) nog onder vuur omdat chatbot Grok in staat bleek dergelijke beelden te genereren. Bedrijven moeten volgens het manifest striktere filters inbouwen om misbruik onmogelijk te maken.
Alarmerende cijfers
De noodzaak voor actie wordt onderstreept door schokkende statistieken van Offlimits:
Naast wetgeving pleiten de experts voor structurele voorlichting op scholen. Het doel is een maatschappelijke norm waarin het maken en delen van dit soort manipulatieve beelden onacceptabel is.
Source: Fok frontpage