Een Amerikaanse senator start een onderzoek naar Meta. AI-chatbots van het moederbedrijf van Facebook, Instagram en WhatsApp zouden "sensuele en romantische" gesprekken voeren met kinderen. In interne beleidsdocumenten zouden dat soort gesprekken worden toegestaan.
De Republikeinse senator Josh Hawley zegt vrijdag in een brief aan Meta-topman Mark Zuckerberg dat hij wil onderzoeken of de chatbots "exploitatie, misleiding of ander crimineel leed veroorzaken" bij kinderen. Ook vraagt hij zich af of het bedrijf gebruikers en medewerkers heeft misleid over hoe veilig de chatbots zijn.
Uit interne beleidsdocumenten, die persbureau Reuters heeft ingezien, blijkt dat de AI-chatbots naast het voeren van "romantische en sensuele" gesprekken met kinderen ook verkeerde medische informatie mogen genereren. Verder mogen de bots gebruikers assisteren in het opvoeren van argumenten over waarom "zwarte mensen dommer zijn dan witte mensen".
In de beleidsdocumenten staat uitgelegd wat personeel moet zien als "acceptabel gedrag" van de chatbots bij het trainen van de AI-producten. Zo staat er bijvoorbeeld dat een bot een kind van acht jaar zonder shirt mag vertellen dat "elke centimeter van zijn lichaam een kunstwerk is" en dat die zijn lichaam "diep koestert".
Dit soort regels wordt volgens Reuters goedgekeurd door onder meer Meta's juridische afdeling en de persoon die gaat over de ethiek van regels voor chatbots. Maar deze regels zouden niet symbool staan voor "ideale" antwoorden van de chatbots, zegt Meta.
Tegelijkertijd staat in de documenten wel expliciet vermeld dat "sexy gesprekken" niet zijn toegestaan. Chatbots mogen kinderen onder de dertien jaar bijvoorbeeld niet vertellen dat ze "seksueel aantrekkelijk" zijn.
Meta heeft bevestigd dat deze documenten echt zijn en worden gebruikt binnen het bedrijf. De regels over sensuele gesprekken met kinderen zouden per ongeluk terecht zijn gekomen in de beleidsdocumenten. Verschillende onderdelen die chatbots toestemming geven voor flirten en romantische gesprekken met kinderen zijn inmiddels verwijderd na het ontvangen van vragen van de pers.
Source: Nu.nl economisch