OpenAIとMeta、チャットボットで若者安全強化

AIチャットボットの会社、OpenAIとMetaがあります。その会社は、ティーンエイジャーの質問に答える方法を変えます。 ティーンエイジャーは、自殺について質問したり、心の苦しみを見せたりすることがあります。

ChatGPTを作ったOpenAIは、新しいコントロールを準備しています。親は自分のアカウントと子供のアカウントをつなげることができます。 親はどの機能を使わないか選べます。システムが子供の苦しみを見つけると、親に知らせます。

OpenAIのチャットボットは、年齢に関係なく、会話を変えます。もっと良い答えができるAIモデルを使います。 苦しい会話を、より良いAIモデルに送ります。

InstagramやFacebookの会社、Metaも発表しました。チャットボットがティーンエイジャーと話すことを止めます。 自殺、食事の問題、恋愛について話すことを止めます。代わりに、専門家の情報を教えます。

調査によると、AIチャットボットの答えは、いつも同じではありません。自殺についての質問で、違いがありました。 OpenAIとMetaは、親のコントロールを導入します。しかし、安全のための基準が必要だという意見もあります。