OpenAI e Meta adottano misure per sicurezza teen

OpenAI e Meta stanno cambiando i loro chatbot. Questo aiuta gli adolescenti con domande sul suicidio. I chatbot ora rispondono meglio a chi è in difficoltà. Le aziende vogliono proteggere i giovani dai problemi mentali ed emotivi. Vogliono offrire un aiuto più sicuro e adeguato.

OpenAI, che ha creato ChatGPT, introduce nuovi controlli. I genitori possono collegare il loro account con quello dei figli. Questo sarà attivo in autunno. I genitori potranno scegliere quali funzioni disattivare per i ragazzi. Riceveranno notifiche se il sistema nota problemi.

La società dice che i suoi chatbot aiutano tutti. Anche se non si conosce l'età, il chatbot cambia conversazione. Dirige le persone ad AI che aiutano meglio. Se una persona è molto triste, riceverà un aiuto migliore. Questo è per dare un supporto più efficace.

Meta sta bloccando i suoi chatbot per gli adolescenti. Non parleranno di autolesionismo o suicidio. Invece, daranno risorse utili. Meta offre già controlli per i genitori sugli account dei ragazzi. Vogliono proteggere i giovani da contenuti pericolosi.

Uno studio ha trovato problemi nelle risposte dei chatbot. I chatbot non sempre rispondono bene alle domande sul suicidio. Servono miglioramenti. Ryan McBain dice che i cambiamenti sono un piccolo passo. Servono test e regole per proteggere i ragazzi.