Nem fog többé az öngyilkosság témaköréről beszélni kamaszokkal a ChatGPT – írta a chatbotot fejlesztő OpenAI vezérigazgatója, Sam Altman új blogbejegyzésében. A bejelentés nem sokkal azután történt, hogy egy 16 brit fiú végzett magával, miután hónapokon keresztül beszélt ilyen irányú terveiről a ChatGPT-vel.
Ki kell szűrnünk a 18 év alatti felhasználóinkat. Ehhez már dolgozunk egy rendszeren, amely képes lesz megbecsülni az emberek életkorát az alapján, hogy hogyan használják a ChatGPT-t. Ha nem tudja egyértelműen behatárolni, hány éves lehet valaki, annál a biztonság kedvéért automatikusan a kiskorúakra szabott verzióra vált majd. Néhány országban elképzelhető, hogy személyi igazolványt is kérünk majd a hitelesítés érdekében
– fogalmazott Altman.
Akit a rendszer 18 év alattinak határoz meg, azzal a chatbot egyáltalán nem fog beszélni önsértésről vagy öngyilkosságról, sőt kacérkodó hangnemben se, még kérésre sem. Ha pedig egy kiskorú megemlíti, hogy kárt akar tenni magában, a cég megpróbálja értesíteni erről a szüleit vagy a hatóságokat.
Az OpenAI erre a lépésre röviddel azután szánta el magát, hogy a 16 évesen öngyilkosságot elkövető Adam Raine szülei beperelték a vállalatot. Elmondásuk szerint fiuk hónapokon keresztül beszélt a ChatGPT-vel, amely ahelyett, hogy megpróbálta volna lebeszélni, adta a lovat a serdülő alá, és legalább egy esetben le is beszélte arról, hogy felhívja családja figyelmét problémáira.
A ChatGPT-ben rejlő veszélyeket példázó más események is történtek az elmúlt hónapokban, augusztusban egy mentálisan labilis férfi anyjával és magával is végzett, miután a chatbot megerősítette tévképzeteit, egy 60 éves férfi pedig kórházba került, mert a chatbot azt tanácsolta neki, hogy fogyasszon só helyett egy mérgező anyagot.
The post Korlátozzák a ChatGPT-t a 18 év alattiak számára first appeared on 24.hu.
24.hu