Drones contre catastrophes, mémoire piégée, IA qui imagine.

Un petit modèle IA sur drone comprend les catastrophes aussi bien que GPT-4o.

Quand un tremblement de terre frappe et que les routes sont coupées, un drone de deux milliards de paramètres peut désormais raisonner sur ce qui s'est passé — et sur ce qui vient.

Voici le problème de départ. Les modèles d'IA capables d'analyser des images — on les appelle des modèles multimodaux, c'est-à-dire capables de traiter à la fois du texte et des photos — sont généralement évalués sur des tâches simples : identifier un chat, décrire une cuisine. Personne n'avait construit un terrain d'entraînement sérieux pour les situations de crise réelle. Une équipe de chercheurs a construit DisasterBench : 5 330 photos aériennes prises par des drones à basse altitude, couvrant 14 types de catastrophes — inondations, incendies, séismes, entre autres — et 9 tâches différentes réparties sur trois phases : avant le désastre, pendant, et après. Imaginez un manuel de pompier illustré, mais en format entraînement pour IA : chaque image est accompagnée de questions qui testent la compréhension de cause à effet, pas juste la description visuelle. Pourquoi ça compte ? Les drones sont souvent les premiers sur zone. Si l'IA embarquée peut analyser les dégâts, prioriser les zones d'intervention et anticiper la propagation du danger, le temps de réponse humaine raccourcit. C'est ça, l'enjeu opérationnel. Le résultat qui surprend : DisasterVL, un modèle entraîné sur ce corpus avec seulement deux milliards de paramètres — c'est minuscule, pensez à un grille-pain numérique comparé à un datacenter —, surpasse tous les modèles open-source testés et atteint une précision de raisonnement comparable à GPT-4o. Vingt et un modèles ont été comparés. Le hic ? Le benchmark reste une évaluation en laboratoire. Les questions sont à choix multiples. Un vrai déploiement en zone de crise implique de la poussière, des images floues, des angles impossibles. On est encore loin du terrain — mais la mesure, elle, est enfin sérieuse.

La mémoire de votre assistant IA peut être piégée pour le détourner.

Votre assistant IA se souvient de vos préférences — c'est pratique. Mais cette mémoire peut devenir une porte d'entrée pour lui faire faire ce que vous ne voulez pas.

Les assistants IA personnels — ceux qui gèrent vos e-mails, réservent des rendez-vous, passent des appels — fonctionnent souvent avec une mémoire à long terme. Chaque interaction passée est stockée, puis rappelée pour personnaliser les réponses suivantes. C'est ce qui leur permet de se souvenir que vous n'aimez pas les réunions avant 9h. Une équipe de chercheurs a montré que cette mémoire est aussi un point de fragilité. En injectant de fausses informations dans le stock de souvenirs d'un agent — soit par accident, soit délibérément —, on peut modifier son comportement de manière profonde et difficile à détecter. C'est comme glisser une note falsifiée dans le carnet de notes d'un secrétaire : il continuera à travailler normalement, mais en suivant des instructions qui ne viennent pas de vous. Les chiffres sont frappants. Sans protection, le taux d'erreurs dans les appels d'outils — imaginez un assistant qui, au lieu de réserver votre restaurant habituel, valide une transaction financière — passe de 5 % à plus de 50 % quand la mémoire est activée sans filtre. Le taux de succès des tentatives de contournement de sécurité (les « jailbreaks ») monte à environ 20 % en moyenne sur les frameworks testés. La solution proposée s'appelle MemGate : un filtre neuronal de 9 millions de paramètres — minuscule, 35 mégaoctets — qui s'intercale entre la mémoire récupérée et le modèle. Il ramène le taux de fuite croisée de 27 % à 3,5 %, les jailbreaks de 16,8 % à 4,4 %, sans dégrader l'utilité. Le hic : les tests portent sur des scénarios contrôlés. La vraie question — comment un attaquant planterait-il ces faux souvenirs dans votre système en production — reste ouverte. Mais le problème, lui, est réel.

Une IA apprend à imaginer des espaces qu'elle n'a pas vus.

Fermez les yeux et imaginez la pièce derrière vous : vous n'avez pas besoin de vous retourner. Les modèles d'IA, eux, étaient jusqu'ici incapables de faire ça.

Les modèles de vision-langage — ceux capables d'analyser des images et d'en parler — ont un point aveugle bien documenté : le raisonnement spatial. Si vous leur montrez une photo d'un appartement et que vous leur demandez ce qu'il y a derrière le mur de droite, ils pataugent. Ils ne voient que ce qu'on leur montre. Une équipe de chercheurs a attaqué ce problème avec une idée directe : si le modèle ne voit pas, qu'il imagine. Astra, c'est le nom du système, couple deux composants. Le premier, Astra-VL, est le cerveau qui raisonne et prend des décisions. Le second, Astra-WM, est un simulateur visuel — une sorte de générateur de rêves dirigés — capable de produire des vues nouvelles d'une scène à partir de ce qui a déjà été vu. Quand Astra-VL a besoin d'information qu'elle ne possède pas, elle demande à Astra-WM d'en générer une représentation, puis elle raisonne dessus. Le gain est mesuré sur deux benchmarks de raisonnement spatial. Sur MMSI-Bench, le modèle de base passe de 29,8 à 38,8 points — soit environ 30 % de gain relatif. Sur MindCube, il gagne presque 6 points. Un résultat contre-intuitif mérite d'être souligné : connecter le modèle au simulateur sans l'entraîner à bien s'en servir le rend moins performant que sans outil du tout. L'imagination mal contrôlée, c'est pire que pas d'imagination. Il a fallu un entraînement spécifique par renforcement pour que l'outil soit réellement utile. Soyons honnêtes : on parle de benchmarks en laboratoire, pas de robots qui naviguent dans des entrepôts. Mais la progression est nette, et le principe — donner à une IA les moyens de se représenter ce qu'elle ne voit pas — ouvre une vraie piste.

Ce que ces trois papiers ont en commun, c'est moins une technique qu'une direction. On est en train de pousser l'IA vers des situations que les benchmarks classiques ne couvrent pas : le monde physique en crise, la gestion d'un historique personnel sensible, la représentation de ce qu'on ne voit pas directement. Et dans les trois cas, le schéma se répète : le modèle généraliste bute sur quelque chose de précis — analyser une scène de catastrophe, filtrer des souvenirs dangereux, raisonner sur l'invisible — et la réponse n'est pas un modèle plus gros. C'est une architecture plus fine, un entraînement ciblé, un filtre bien placé. Le vrai mouvement en ce moment dans la recherche, c'est moins « plus de puissance » que « mieux utilisée ». Ce n'est pas spectaculaire à annoncer, mais c'est probablement plus durable.

Sur DisasterBench, la question ouverte est simple : est-ce que des équipes de secours réelles vont tester ces modèles sur le terrain, pas seulement sur des photos archivées ? Du côté de la sécurité mémoire, surveillez si d'autres équipes reproduisent les chiffres de MemGate sur des systèmes déployés en production — le saut du labo à l'usage réel est rarement indolore. Et sur le raisonnement spatial, MMSI-Bench reste un test très contraigné ; une vraie évaluation sur des robots en environnement ouvert serait l'étape suivante à observer.

• Wikipédia — Drone (aéronef)
• Wikipédia — Modèle de langage (LLM)
• Wikipédia — Raisonnement spatial