OpenAI dévoile des chiffres sur les utilisateurs de ChatGPT
OpenAI a révélé que 0,15% des utilisateurs de ChatGPT expriment des intentions suicidaires chaque semaine. De plus, 0,07% montrent des signes de troubles mentaux graves et 0,15% ont un fort attachement émotionnel au chatbot.
Mise à jour du modèle de ChatGPT
Face à ces chiffres préoccupants, OpenAI a mis à jour son modèle de langage pour mieux protéger ses utilisateurs. Cette nouvelle version vise à reconnaître et soutenir les personnes en détresse, en les orientant vers des professionnels si nécessaire.
OpenAI améliore la détection des problématiques de santé mentale
OpenAI a mis en place un système dans ChatGPT pour rediriger les utilisateurs exprimant des idées suicidaires vers des numéros d'urgence, ce qui a permis de réduire de 65 % à 80 % le nombre de réponses inadéquates.
L'entreprise travaille avec environ 300 médecins et psychologues de différents pays pour améliorer son modèle et tester son efficacité dans la détection des problématiques de santé mentale de ses utilisateurs.
Le PDG d'OpenAI, Sam Altman, avait récemment assoupli les restrictions de ChatGPT pour préserver la santé mentale, mais avait ensuite clarifié qu'OpenAI traiterait différemment les utilisateurs confrontés à des problèmes de santé mentale par rapport à ceux qui n'en ont pas.