Ce que l'IA dit n'est pas ce qu'elle fait

Un robot peut obéir poliment et vous blesser quand même

L'instruction « libère le passage » ne contient aucune violence — mais si le robot l'exécute à côté d'une personne avec un déambulateur, quelqu'un tombe.

Voilà le problème que des chercheurs travaillant sur les modèles Qwen2.5 ont mis en évidence cette semaine. Ils montrent que les grands modèles de langage stockent deux types de signaux très différents dans leurs couches internes : le « danger textuel » — les insultes, le contenu illicite — et le « danger physique » — les actions qui blessent dans le monde réel. Ces deux signaux sont séparables mathématiquement, comme deux teintes distinctes dans un même pot de peinture. Pour les distinguer automatiquement, ils ont entraîné un outil qu'ils appellent PRISM : une sonde statistique simple, appliquée sur les couches intermédiaires du modèle. Résultat : 86 à 87 % de précision pour détecter les instructions physiquement dangereuses, avec un taux de faux positifs de 11 à 13 %. En comparaison, les systèmes de modération classiques — ceux qui jugent la dangerosité d'après le texte — bloquent entre 24 et 39 % des instructions totalement inoffensives. Deux à trois fois plus d'erreurs. Pourquoi ça compte ? Parce que les agents IA — des robots domestiques aux assistants médicaux — reçoivent des instructions en langage naturel et les traduisent en actes physiques. Une modération qui ne voit que le texte ne voit qu'une partie du problème. Le hic, et il est sérieux : PRISM a été testé sur des benchmarks construits en laboratoire, pas sur de vrais robots dans de vrais environnements. La sonde est calibrée sur une famille de modèles (Qwen2.5) — sa robustesse sur des architectures différentes reste à vérifier. C'est un vrai pas, mais pas encore un bouclier déployable demain matin.

GPT-4o-mini bien encadré écrase GPT-5 livré à lui-même

Un cuisinier avec de bons couteaux et sans recette, contre un cuisinier ordinaire avec une recette précise, un timer et un sous-chef — qui réussit le plat ?

C'est, en substance, ce que des chercheurs ont testé dans ce papier, en comparant deux systèmes d'IA pour encadrer des travaux académiques. Le premier, baptisé ASA, c'est GPT-5 en solo : le modèle le plus puissant du moment, sans filet. Le second, ASuS, c'est GPT-4o-mini — un modèle nettement moins coûteux — mais enveloppé dans un harnais logiciel : récupération automatique de documents pertinents, validation des entrées et sorties, boucle de vérification par un juge automatique, et points de contrôle humains à chaque étape critique. Dix évaluateurs humains ont noté les deux systèmes à l'aveugle sur six dimensions de qualité. ASuS obtient une moyenne de 4,08 sur 5. ASA : 1,23. Huit évaluateurs sur dix rejettent statistiquement l'hypothèse que les deux systèmes sont équivalents. La leçon n'est pas que GPT-4o-mini est intrinsèquement supérieur à GPT-5. C'est que la puissance brute d'un modèle compte moins que l'architecture dans laquelle on l'insère. Un modèle sans garde-fous improvise, hallucine, dérive. Un modèle encadré — même modeste — reste dans les rails. Le hic : l'étude porte sur une tâche très précise, évaluée avec 30 questions et 10 évaluateurs. C'est un échantillon petit. Et le harnais a été conçu par les auteurs qui évaluent leur propre système — un biais classique à surveiller. Les conclusions sont prometteuses, mais restent à confirmer sur des tâches plus variées et avec des équipes indépendantes.

Les modèles qui arrêtent de « réfléchir » lisent mieux les documents

Quand vous lisez un relevé bancaire, vous ne construisez pas un raisonnement en dix étapes — vous regardez, vous pointez, vous répondez.

Des chercheurs ont appliqué cette intuition à l'entraînement de modèles de vision-langage — ces IA capables de lire et comprendre des documents visuels : contrats, rapports financiers, formulaires. Et ils ont constaté quelque chose de contre-intuitif. Quand on entraîne ces modèles avec une phase de « raisonnement explicite » — en les forçant à générer une chaîne de pensée avant de répondre — ils finissent par supprimer eux-mêmes ces chaînes au fil de l'entraînement. Le modèle, pour ainsi dire, apprend à ne plus penser à voix haute, et converge vers une politique de pure perception. Il regarde, il localise, il répond. Leur méthode, appelée Perception-RFT, saute directement l'étape du raisonnement intermédiaire. Résultat sur le modèle Qwen3-VL de 4 milliards de paramètres : des performances équivalentes, voire meilleures sur des tâches de localisation dans des documents, avec 60 % de tokens générés en moins par requête. Moins de calcul, moins de coût, mêmes réponses. Ils identifient aussi un phénomène qu'ils nomment « divergence de localisation » : quand on optimise conjointement la géométrie (où est l'information sur la page) et la sémantique (ce que cette information signifie), l'amélioration de l'un dégrade parfois l'autre. Un équilibre délicat. Le hic est important : tout ceci est validé sur un seul modèle, à une seule échelle, sur des tâches de localisation dans des documents. Le raisonnement explicite reste probablement utile pour des questions complexes, multi-étapes, ou ambiguës. Ce n'est pas une invitation à supprimer la chaîne de pensée partout — c'est une invitation à ne l'utiliser que quand elle sert vraiment.

Trois papiers aujourd'hui, trois intuitions contredites. On croyait que la sécurité d'une IA se lisait dans son texte — non, elle se joue aussi dans les actes physiques que ce texte déclenche. On croyait que le modèle le plus puissant gagnait — non, c'est l'architecture qui l'encadre qui fait la différence. On croyait que raisonner explicitement était toujours mieux — non, pour certaines tâches perceptuelles, c'est une friction inutile que le modèle finit lui-même par éliminer. Ce que ces trois résultats ont en commun : ils nous forcent à être plus précis sur ce que nous entendons par « performance » et « fiabilité ». Un score de leaderboard ne dit pas si un modèle est sûr dans le monde physique. Une grande taille de modèle ne dit pas si sa sortie sera cohérente. Un raisonnement verbeux ne dit pas que la réponse sera meilleure. La recherche en IA apprend, lentement, à poser les bonnes questions.

Sur la sécurité des agents physiques, il faudra surveiller si PRISM ou des outils similaires font leur chemin dans les pipelines de déploiement de robots — aucune annonce concrète n'est prévue à ma connaissance, mais c'est la question ouverte la plus urgente des trois. Sur le raisonnement, je regarderai si les résultats de Perception-RFT se confirment à des échelles de modèle plus grandes, où le raisonnement explicite reprend peut-être ses droits. Et sur le scaffolding, la vraie question est : est-ce que l'avance d'ASuS tient sur des tâches hors du contexte académique ?

• Wikipedia FR — Apprentissage par renforcement (contexte général)
• Wikipedia FR — Traitement automatique du langage naturel
• Quanta Magazine — AI Safety (archive en anglais)