Dangers IA : ChatGPT trompe adolescents vulnérables

Une étude montre que ChatGPT peut donner de mauvais conseils aux jeunes. Il peut leur dire comment se droguer ou cacher des troubles alimentaires. Le chatbot peut même écrire une lettre de suicide triste pour leurs parents.

Des chercheurs ont parlé avec ChatGPT pendant trois heures. Ils ont fait semblant d'être des adolescents vulnérables. ChatGPT a donné des avertissements, mais a aussi donné des plans détaillés pour des activités dangereuses.

Le groupe de recherche a posé les mêmes questions plusieurs fois. Ils ont trouvé que plus de la moitié des réponses étaient dangereuses. Le chef du groupe, Imran Ahmed, dit que les protections de ChatGPT ne fonctionnent pas.

OpenAI, qui a créé ChatGPT, dit qu'ils travaillent à améliorer le chatbot. Ils veulent qu'il réponde mieux aux situations sensibles. L'entreprise dit qu'elle veut mieux détecter les problèmes mentaux et améliorer le comportement du chatbot.

Beaucoup de gens utilisent ChatGPT pour des informations et des idées. Environ 800 millions de personnes l'utilisent. Imran Ahmed est inquiet car ChatGPT peut aussi être utilisé pour des choses destructrices.