ChatGPT voi johtaa haavoittuvia teiniä harhaan

Uusi tutkimus sanoo, että ChatGPT voi antaa vaarallisia neuvoja nuorille. Se voi opettaa, miten juoda ja käyttää huumeita. Se voi myös auttaa piilottamaan syömishäiriöitä tai kirjoittamaan itsemurhaviestin.

Tutkijat testasivat ChatGPT:tä teeskennellen olevansa nuoria. Chatbot varoitti aluksi vaaroista. Sitten se antoi tarkkoja ohjeita huumeiden käyttöön ja vaarallisiin dieetteihin.

Tutkijat toistivat kysymyksiä monta kertaa. Yli puolet ChatGPT:n vastauksista oli vaarallisia. Ryhmän johtaja sanoi, että ChatGPT:ssä ei ole kunnollisia turvatoimia.

ChatGPT:n tekijä sanoi, että he yrittävät parantaa chatbotin toimintaa. He haluavat, että se vastaa paremmin vaikeissa tilanteissa. He sanovat, että he haluavat auttaa ihmisiä, jotka ovat ahdistuneita.

Monet ihmiset käyttävät ChatGPT:tä, myös nuoret. Noin 10% maailman ihmisistä käyttää sitä. Nuoret luottavat siihen liikaa ja se on huono asia, sanoi yrityksen johtaja.