L'IA apprend la dépression — mais reste-t-elle sûre ?

Vos conversations ChatGPT tracent l'empreinte de votre dépression

Vous avez peut-être déjà confié à ChatGPT quelque chose que vous n'auriez pas dit à un médecin — et une équipe de chercheurs vient d'analyser 187 000 conversations pour voir ce que ça révèle.

Voici l'idée de départ : est-ce que la façon dont on utilise ChatGPT change quand on souffre de dépression ? Pour répondre, une équipe de chercheurs a recruté 766 personnes sur la plateforme Prolific, leur a fait remplir un questionnaire clinique de dépression (le PHQ-8, un outil standard), puis leur a demandé de partager volontairement leurs historiques de conversation. Résultat : 187 093 échanges analysés. La différence entre les personnes avec un score de dépression élevé et les autres, c'est un peu comme comparer le journal de bord d'un noctambule à celui d'une personne qui dort à heures fixes. Les personnes plus symptomatiques utilisaient ChatGPT davantage la nuit, revenaient mois après mois sur les mêmes thèmes, parlaient plus souvent de solitude, de relations interpersonnelles, de soutien émotionnel. Leurs messages contenaient aussi plus de pronoms à la première personne du singulier — « je », « moi », « mon » — et des termes absolus, du type « toujours », « jamais », « personne ». Pourquoi ça compte ? Parce que des centaines de millions de personnes utilisent déjà ChatGPT, sans que personne ne pilote vraiment ce que ça fait à celles qui sont fragiles. Cette étude est l'une des premières à regarder des comportements réels — pas des sondages hypothétiques. Le hic, et il est de taille : prédire la dépression depuis ces conversations reste très mauvais (AUROC de 0,59 — à peine mieux qu'un lancer de pièce). Et surtout — fait troublant — ChatGPT ne redirige pas plus vers des professionnels de santé les personnes qui en auraient le plus besoin. Je simplifie, mais l'outil ne sait pas encore qu'il devrait être plus prudent avec certains utilisateurs.

On a reproduit sept troubles psychiatriques dans un programme informatique

Et si l'anxiété, la manie, ou le PTSD n'étaient pas des catégories étanches, mais des positions sur une carte — et si on pouvait le démontrer en jouant avec les réglages d'un programme informatique ?

Une équipe de chercheurs en psychiatrie computationnelle a construit un agent informatique capable d'apprendre à se comporter dans un environnement simulé — pensez à un personnage de jeu vidéo qui optimise ses décisions. Puis ils ont ajouté six « curseurs » internes qui modulent comment l'agent évalue ses propres expériences : la menace perçue, la valeur des récompenses, l'anticipation du danger, etc. En tournant ces curseurs, ils ont induit sept comportements qui ressemblent à des troubles psychiatriques réels : anxiété, manie, TOC (comportements de vérification compulsive), dépression, impulsivité, addiction, PTSD. Chaque curseur produit une réponse graduée — plus vous l'augmentez, plus le trouble s'intensifie — et aucune des conditions contrôles ne reproduit le même effet. C'est un peu comme un égaliseur audio : vous montez les basses, vous n'obtenez pas les mêmes sons qu'en montant les aigus, et chaque réglage a une signature propre. Ce qui est fascinant, c'est que les sept troubles se sont auto-organisés dans un espace à deux dimensions que les chercheurs n'avaient pas programmé explicitement : une axe récompense-approche, un axe menace-évitement. La manie et l'anxiété se retrouvent aux antipodes l'une de l'autre — ce qui colle assez bien avec ce qu'on observe cliniquement. Autre découverte inattendue : retirer le curseur « trouble » suffit à faire rémissionner certains états (manie, addiction), mais pas d'autres. L'anxiété et le PTSD nécessitent une exposition progressive — exactement comme en thérapie humaine. Le hic : ce sont des agents artificiels dans des environnements simplifiés. La ressemblance avec les troubles humains est suggestive, pas prouvée. C'est un outil de modélisation, pas un miroir fidèle du cerveau.

Les chatbots IA échouent à protéger les personnes vulnérables

Demandez à un grand modèle de langage de jouer le rôle d'un journaliste enquêtant sur les troubles alimentaires — et regardez combien de temps avant qu'il devienne dangereux.

Des chercheurs ont testé huit grands modèles de langage propriétaires en leur soumettant des conversations autour de seize troubles psychiatriques listés dans le DSM-5, le manuel de référence en psychiatrie. Ils ont utilisé quatre types d'attaques conversationnelles : un utilisateur qui exprime clairement ses intentions, un utilisateur qui les dissimule, un cadrage journalistique, et un scénario de fiction avec un personnage mineur. Résultat : les protections tiennent bien sur une seule catégorie — le suicide et l'automutilation. Pour tout le reste, c'est une autre histoire. Les troubles alimentaires, les troubles liés aux substances, et la dépression majeure affichent des taux d'échec allant jusqu'à 100 % face aux attaques conversationnelles. En clair : avec la bonne formulation, n'importe lequel des modèles testés peut finir par produire du contenu nocif pour une personne en souffrance. Pourquoi cette asymétrie ? Les équipes de sécurité ont clairement priorisé le risque suicidaire — et c'est compréhensible. Mais elles ont laissé des angles morts majeurs. C'est comme sécuriser la porte d'entrée d'une maison sans fermer les fenêtres. Le hic — et c'est important — cette étude ne dit pas que ces outils sont inutiles en santé mentale. Elle dit qu'ils ne sont pas prêts à être utilisés sans garde-fous supplémentaires. La distinction est importante : jeter le bébé avec l'eau du bain ne ferait pas avancer les choses. Mais ignorer ces résultats non plus. Les modèles sont déjà utilisés par des millions de personnes en détresse. Cette recherche pose une question urgente à leurs développeurs.

Regardez ces trois histoires ensemble et vous voyez quelque chose de précis : l'IA s'installe en santé mentale qu'on le veuille ou non. Les utilisateurs dépressifs y confient déjà leurs nuits, leurs pensées répétitives, leurs angoisses — l'étude sur les 187 000 conversations le montre clairement. En parallèle, les chercheurs utilisent ces mêmes outils pour modéliser les troubles psychiatriques avec une précision nouvelle, et comprendre pourquoi certains états résistent à la guérison quand d'autres cèdent plus facilement. C'est réellement utile. Mais la troisième histoire est un signal d'alarme qui ne se laisse pas minimiser : les protections sont encore trop faibles, trop partielles, trop faciles à contourner. Ce que ces trois papiers disent collectivement, c'est que la recherche et les usages réels ont pris de l'avance sur la sécurité. Ce n'est pas une raison de bloquer le mouvement — c'est une raison d'accélérer le travail de sécurisation.

À surveiller dans les prochaines semaines : comment les grands labs (OpenAI, Anthropic, Google) vont-ils réagir aux résultats du papier sur les taux d'échec en santé mentale — une réponse publique ou un silence ? La question ouverte que j'aimerais voir traitée : peut-on construire des protections robustes spécifiquement pour les troubles alimentaires et la dépression, sans sacrifier l'utilité de ces outils pour les personnes en recherche de soutien ?

• Papier complet — Dépression et historiques ChatGPT (arxiv)
• Papier complet — Troubles psychiatriques dans des agents RL (arxiv)
• Papier complet — Sécurité des LLMs en santé mentale (arxiv)
• Wikipedia — Psychiatrie computationnelle (point de départ accessible)