L'IA qui rate vos calories, vos diagnostics, et la chimie

Les IA reconnaissent vos plats mais ignorent ce qu'ils contiennent

Votre appli nutrition reconnaît la pizza margherita — elle est incapable de vous dire si la part fait 150 ou 350 grammes.

Une équipe de chercheurs a construit OmniFood-Bench, un banc de test structuré en trois niveaux pour mesurer jusqu'où les grands modèles visuels — des IA qui analysent des photos — peuvent aller en matière de nutrition. Ils ont évalué six modèles du moment, dont GPT-5.1, Gemini-3-Flash et Qwen3-VL-8B. Premier niveau : nommer un plat. Là, les modèles s'en sortent presque aussi bien qu'un humain. Deuxième niveau : estimer la portion et les nutriments. C'est là que ça s'effondre — les chercheurs parlent d'«échec catastrophique» sur l'estimation de la masse. Pensez à un cuisiner qui reconnaît parfaitement une recette à l'odeur mais qui est incapable de vous dire si la casserole contient deux ou dix portions : c'est exactement ce problème. Troisième niveau : formuler des conseils personnalisés pour un profil à risque, par exemple un diabétique. Là, les modèles recommandent régulièrement des aliments dangereux — même quand ils ont correctement identifié les ingrédients. Pourquoi est-ce que ça compte ? De plus en plus d'applis de santé intègrent ces modèles pour analyser vos repas en photo. Si l'IA sait nommer un plat mais ne peut pas en estimer la masse ni les glucides, les chiffres nutritionnels qu'elle vous affiche sont construits sur du vent. Le hic, et je dois être honnête : les résultats complets du papier ne sont pas encore tous publiés — les chiffres précis sur les taux d'hallucination restent partiels dans la version disponible. La faille structurelle qu'ils pointent — l'apparence visuelle ne prédit pas la composition nutritionnelle — est réelle et bien documentée. Mais l'ampleur exacte du problème attendra la version finale.

Les LLMs sont encore loin des psychiatres, même en simulation

37 points de pourcentage : c'est l'écart entre le meilleur modèle de langage testé et un clinicien humain lors d'une consultation psychiatrique simulée.

Des chercheurs ont construit MentalHospital, un environnement virtuel pour simuler des consultations psychiatriques complètes. Ils ont puisé dans 1 193 dossiers médicaux anonymisés provenant de six centres hospitaliers, couvrant l'ensemble des grandes catégories de troubles mentaux selon la classification internationale ICD-11. L'idée : soumettre des IA au parcours complet d'un interne en psychiatrie — interrogatoire, examen mental, diagnostic, plan de traitement — et comparer leurs performances à celles de médecins, d'internes, et de non-spécialistes. Sur les tâches isolées — répondre à une question de psychiatrie, classer un symptôme — les modèles s'en sortent correctement. Mais dès qu'on les place dans une consultation entière, le tableau change. Le meilleur modèle testé accuse 37 points de retard sur les cliniciens expérimentés. Même les LLMs spécialisés en médecine restent 27 points en dessous des internes sur les métriques objectives. Le goulot d'étranglement identifié : l'examen de l'état mental — cette capacité à observer finement le comportement, le discours, l'affect d'un patient en temps réel. Pensez à la différence entre apprendre les règles des échecs et jouer une partie complète sous pression : les IA maîtrisent les règles, mais la partie les dépasse encore. Pourquoi ça compte ? Les discours sur l'IA comme solution à la pénurie de psychiatres circulent beaucoup. Ce papier donne un chiffre précis à la distance qui reste à parcourir. Le hic : MentalHospital est une simulation. Les patients virtuels ne réagissent pas exactement comme de vraies personnes en souffrance. L'écart réel en conditions cliniques est sans doute encore plus grand — ou différent en nature. Les 22 cliniciens interrogés ont noté la fidélité de la simulation à 3,88 sur 5 : honorable, pas parfait.

Un modèle chimique de 7 milliards de paramètres hallucine 79% moins grâce à la théorie des jeux

Et si on réduisait les erreurs d'une IA en lui faisant jouer contre elle-même, comme deux avocats adversaires qui se corrigent mutuellement ?

Des chercheurs ont développé G-Frame, un système multi-agents — c'est-à-dire plusieurs IA qui travaillent en parallèle et se contrôlent mutuellement — pour entraîner un modèle spécialisé en chimie appelé OmniChem. L'idée centrale vient de la théorie des jeux : certains problèmes se résolvent mieux quand les participants ont des objectifs partiellement opposés qui les forcent à se corriger. Concrètement, imaginez une équipe de plombiers où l'un installe les tuyaux et l'autre a pour mission de trouver les fuites. La tension entre les deux rôles produit un travail plus fiable que si une seule personne faisait tout en se faisant confiance. G-Frame applique cette logique à la synthèse de données d'entraînement en chimie. Résultat : OmniChem, un modèle de seulement 7 milliards de paramètres — petit par les standards actuels — réduit ses hallucinations de 79,46% par rapport à son architecture de base, et atteint des performances comparables à GPT-4o mini sur des benchmarks de chimie. Le corpus d'entraînement généré : plus de 360 000 exemples de raisonnement étape par étape. Pourquoi ça compte ? La course aux grands modèles coûte cher en énergie et en argent. Un petit modèle bien entraîné qui hallucine peu dans un domaine précis, c'est potentiellement plus utile qu'un immense modèle généraliste peu fiable. C'est une direction que beaucoup de labos explorent. Le hic : OmniChem est évalué sur des benchmarks de chimie, dont un benchmark maison (ThChem) créé par la même équipe. C'est une limite méthodologique classique — les résultats sur des benchmarks indépendants, créés par d'autres, sont plus fiables. Je simplifie : 79% de réduction d'hallucinations sur leurs propres tests, c'est encourageant. Ce n'est pas encore une garantie généralisable.

Ces trois papiers semblent parler de sujets différents — nutrition, psychiatrie, chimie. Mais ils racontent la même histoire sous trois angles. L'IA excelle à la surface des choses : nommer un plat, répondre à une question médicale isolée, produire du texte plausible. Là où elle décroche, c'est quand la tâche exige une profondeur que la surface ne révèle pas : estimer une masse, conduire une consultation entière, ne pas inventer des faits chimiques avec assurance. Ce que ça nous dit collectivement : la recherche est en train de cartographier précisément ces lacunes, benchmark par benchmark. C'est un travail moins spectaculaire que d'annoncer un nouveau modèle, mais c'est peut-être plus utile à long terme. On ne peut améliorer que ce qu'on mesure. Et la mesure s'affine. La bonne nouvelle du lot, c'est G-Frame : elle montre qu'on peut attaquer structurellement le problème des hallucinations avec des architectures bien pensées, pas seulement avec plus de données ou plus de puissance de calcul. C'est un signal que la direction change un peu.

Surveillez les résultats complets d'OmniFood-Bench quand la version finale sera publiée — les chiffres précis sur les taux d'hallucination nutritionnelle seront déterminants pour évaluer l'ampleur réelle du problème. Sur MentalHospital, la vraie question ouverte est : est-ce qu'un système comme celui-là sera jamais testé sur de vraies consultations, avec de vrais patients, dans un cadre éthique rigoureux ? Personne ne sait encore. C'est la question que j'aimerais voir posée publiquement par les équipes cliniques qui commencent à utiliser des LLMs en soutien psychiatrique.

• Wikipedia (FR) — Hallucination en intelligence artificielle
• Arxiv — MentalHospital (papier complet)
• Arxiv — G-Frame / OmniChem (papier complet)