Instagram zou seksueel getinte AI-deepfakes moeten verbieden. Dat vindt het Meta Oversight Board, de toezichthouder van Instagram-moederbedrijf Meta. Ook zouden familie en vrienden van een slachtoffer AI-deepfakes moeten kunnen melden.
Omdat AI-deepfakes vaak meisjes en vrouwen treffen en de gevolgen voor het slachtoffer vaak groot zijn, zou Meta sneller moeten concluderen dat het om videomateriaal gaat dat zonder toestemming is gemaakt. "AI-gegenereerde identiteitsvervalsing vindt per definitie zonder toestemming plaats", aldus het Oversight Board.
Daarnaast ligt er een grote taak bij slachtoffers om zich te melden, terwijl familie en vrienden dat ook zouden moeten kunnen doen. In de zaak die bij het Oversight Board kwam, trokken familie en vrienden aan de bel, omdat het slachtoffer het account had opgeheven. "Het zou de last voor slachtoffers verlichten om het misbruik niet zelf te hoeven melden."
De zaak ging om een AI-deepfake van een vrouw die bijna naakt werd afgebeeld. Instagram weigerde de beelden te verwijderen, omdat het voor het bedrijf niet duidelijk zou zijn dat het een echt persoon was en dat de beelden zonder toestemming waren gedeeld.
Ja, het Meta Oversight Board is een op papier zo onafhankelijk mogelijk orgaan die beslissingen van Meta-platforms als Instagram om content juist wel of niet te verwijderen nog eens beoordeelt. In die raad zitten deskundigen op allerlei gebieden. De gedachte is dat gebruikers in beroep moeten kunnen als zij denken dat Meta het fout heeft. Meta Oversight Board zou daardoor moeten voorkomen dat mensen in eigen land naar een rechter moeten stappen. Meta zou wel overwegen te stoppen met de eigen toezichthouder na 2028.
Source: Tweakers.net