Meta heeft interne richtlijnen opgesteld voor zijn AI-chatbots die veel ruimte laten voor omstreden gedrag. Uit een intern document dat door persbureau Reuters is ingezien, blijkt dat de bots kinderen mochten aanspreken in romantische of sensuele bewoordingen, zolang er geen expliciete seksuele handelingen werden beschreven. Ook konden de chatbots bevooroordeelde of discriminerende uitspraken doen, zoals het schrijven van een tekst waarin zwarte mensen als minder intelligent dan witte mensen worden neergezet, mits er geen ontmenselijkende taal werd gebruikt. Verder mochten de bots onjuiste medische of andere feitelijk onjuiste informatie verspreiden, zolang daarbij een disclaimer stond dat het onwaar was. Meta bevestigde de echtheid van het document, maar verwijderde enkele passages na vragen van Reuters.
Het document, getiteld "GenAI: Content Risk Standards", werd goedgekeurd door onder meer de juridische afdeling, beleidsmedewerkers en de hoofdeconoom van Meta. De regels beslaan ruim 200 pagina’s en beschrijven in detail wat ontwikkelaars en testers als toelaatbaar moeten zien bij het trainen van AI-producten.
Volgens Meta-woordvoerder Andy Stone waren de voorbeelden over gesprekken met kinderen onjuist en in strijd met het beleid, en zijn ze inmiddels verwijderd. Toch erkende hij dat de handhaving van de regels soms inconsistent was. Andere omstreden passages, zoals die over raciale intelligentieverschillen, zijn vooralsnog niet aangepast.
Het document bevat ook richtlijnen voor beeldgeneratie. Seksueel getinte verzoeken over beroemdheden, zoals Taylor Swift naakt afbeelden, moeten worden geweigerd. In sommige gevallen stelt het document voor om gebruikers op een ludieke manier af te leiden, bijvoorbeeld door een foto te maken van Swift met een enorme vis in haar armen in plaats van topless.
Gewelddadige beelden zijn in bepaalde vormen toegestaan: zo mag er een afbeelding worden gemaakt van een jongen die een meisje in het gezicht slaat, maar extreem bloedige scènes, zoals een kind dat een ander doorboort, zijn verboden.
Critici, zoals Stanford-docent Evelyn Douek, wijzen erop dat er een belangrijk verschil is tussen het toestaan dat gebruikers aanstootgevende inhoud plaatsen en het actief produceren van dergelijke inhoud door een AI-systeem.
Ze vinden het opmerkelijk dat een bedrijf als Meta, dat honderden miljarden investeert in AI en de bots als kern ziet voor gebruikersinteractie, zulke controversiële uitingen toelaat in zijn richtlijnen. Meta zelf wilde niet reageren op specifieke voorbeelden rond racisme, geweld of seksueel getinte verzoeken.
Source: Fok frontpage