OpenAI y Meta mejoran seguridad mental en chatbots

OpenAI y Meta hacen chatbots. Estos chatbots ayudan a personas con preguntas y problemas. Ahora, las empresas quieren cambiar cómo los chatbots hablan con adolescentes. Quieren ayudar a los adolescentes que están tristes o piensan en suicidio. Los chatbots van a dar respuestas diferentes para ayudar mejor.

OpenAI, la empresa de ChatGPT, va a cambiar cosas. Los padres pueden conectar sus cuentas con las de sus hijos. Esto ayudará a los padres a saber lo que hacen sus hijos. Los padres pueden ver qué cosas pueden usar sus hijos en el chatbot. También, los padres pueden saber si sus hijos están muy tristes.

Meta también va a cambiar sus chatbots. Los chatbots no hablarán con adolescentes sobre cosas malas. Estas cosas son hacerse daño, suicidio y comer mal. En lugar de hablar de eso, los chatbots darán ayuda. Los chatbots mostrarán a los adolescentes dónde encontrar ayuda profesional.

Un estudio mostró que los chatbots no siempre dan buenas respuestas. Los chatbots no siempre ayudan bien con preguntas sobre suicidio. Necesitan mejorar. El estudio dice que ChatGPT, Gemini y Claude necesitan ser mejores. Necesitan dar respuestas más seguras y útiles.

Un experto dice que los cambios son buenos, pero no suficientes. Necesitamos saber si los chatbots son seguros con pruebas. Es importante tener reglas para proteger a los adolescentes. El experto dice que las empresas deben ser responsables. No podemos solo confiar en que las empresas se controlen a sí mismas.