OpenAI introduceert later dit jaar een optie om de accounts van ouders en kinderen te linken, waarbij ouders een seintje kunnen krijgen als ChatGPT constateert dat een minderjarige in acute nood verkeert.
De controle over accounts van minderjarigen maakt deel uit van een pakket maatregelen om het gebruik van ChatGPT bij acute nood veiliger te maken, meldt OpenAI. Bij volwassenen gaat ChatGPT meer leunen op redeneermodellen voor antwoorden, omdat deze zich beter aan de richtlijnen houden. OpenAI heeft de afgelopen tijd beschuldigingen gekregen dat zijn chatbot gebruikers heeft aangezet tot bijvoorbeeld zelfdoding.
Behalve het inseinen van ouders bij acute nood kunnen ouders functies in- en uitschakelen bij hun kinderen en controle uitoefenen over hoe de chatbot antwoordt. Ouderlijk toezicht moet binnen een maand beschikbaar zijn en de rest van de maatregelen vóór het einde van het jaar. Onlangs maakte OpenAI al bekend dat het onder meer gesprekken gaat doorsturen naar 'gespecialiseerde kanalen' als de chatbot detecteert dat gebruikers van plan zijn anderen schade toe te brengen. De gesprekken worden vervolgens beoordeeld door een klein team. Als die mensen vaststellen dat er sprake is van 'een onmiddellijke dreiging van ernstig fysiek letsel voor anderen', kan OpenAI de gesprekken doorverwijzen naar de politie.
Denk jij aan zelfdoding? Neem 24/7 gratis en anoniem contact op met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.
Source: Tweakers.net