OpenAI dan Meta Laksana Langkah Baru Kesihatan Mental Remaja

OpenAI dan Meta membuat chatbot kecerdasan buatan. Mereka mengubah cara chatbot menjawab soalan remaja. Soalan tersebut adalah tentang bunuh diri atau masalah mental.

OpenAI, pembuat ChatGPT, akan membuat kawalan baharu. Ibu bapa boleh menghubungkan akaun mereka dengan akaun remaja. Ibu bapa boleh memilih ciri yang hendak dimatikan. Mereka juga akan menerima notifikasi jika remaja dalam masalah.

Syarikat berkata chatbot akan cuba membantu. Chatbot akan mengalihkan perbualan kepada model AI yang lebih baik. Model ini boleh memberikan jawapan yang lebih sesuai dan membantu.

Meta juga membuat perubahan untuk chatbot mereka. Mereka menghalang chatbot daripada bercakap tentang perkara sensitif dengan remaja. Perkara ini termasuk bunuh diri, masalah makan dan perbualan romantik yang tidak sesuai.

Satu kajian mendapati chatbot memberikan jawapan yang berbeza. Jawapan adalah untuk soalan tentang bunuh diri. Para penyelidik berkata ChatGPT, Gemini dan Claude perlu diperbaiki lagi.