Les hallucinations de l'IA en trading : les garde-fous battent la confiance aveugle

Demandez à un modèle de langage le cours de clôture de mardi de NVIDIA et il répondra avec aisance, instantanément, et parfois à tort, sans le moindre changement de ton entre les deux cas. Voilà tout le problème des hallucinations de l'IA en trading, condensé en une phrase. Quand la sortie est un texte, un détail fabriqué vous coûte une correction. Quand la sortie alimente une position, elle vous coûte de l'argent. Cet article explique ce qu'est réellement une hallucination, pourquoi les questions financières la provoquent plus que la plupart des autres, à quoi ressemblent les taux mesurés, et l'architecture — assortie d'une checklist d'acheteur — qui tient la fabrication à l'écart de vos ordres.

Ce qu'est réellement une hallucination

Le mot suggère un dysfonctionnement, un bug à corriger dans la prochaine version. Ce cadrage vous induit à attendre la version réparée. On comprend mieux l'hallucination comme le modèle faisant exactement ce pour quoi il a été construit, dans une situation où ce n'est pas ce dont vous avez besoin.

Un modèle de langage génère la continuation la plus plausible du texte jusqu'ici. La plausibilité est la seule monnaie. Il n'existe aucun grand livre interne avec les faits d'un côté et les inventions de l'autre, aucun drapeau qui se lève quand le modèle passe du souvenir à la composition. « Apple a déclaré un chiffre d'affaires de » se voit complété par un nombre ayant exactement la forme d'un chiffre d'affaires d'Apple, parce que des millions de phrases similaires ont appris au modèle à quoi ressemblent de tels nombres. Que les chiffres précis soient vrais est une propriété du monde, et le modèle ne consulte pas le monde. Il consulte la forme du langage au sujet du monde.

Voilà pourquoi une sortie hallucinée est si difficile à repérer à l'œil. Elle n'est ni brouillée, ni prudente. Elle arrive dans le même registre assuré qu'une sortie correcte, avec la même mise en forme, souvent entourée de détails exacts. L'échelle et le fine-tuning en réduisent la fréquence ; rien dans le mécanisme ne l'élimine. Une conception de système qui suppose une fabrication assurée occasionnelle est réaliste, pas paranoïaque.

Pourquoi les hallucinations de l'IA en trading mordent plus fort qu'ailleurs

La finance concentre en un seul domaine tous les déclencheurs de la fabrication.

Les chiffres dominent, et les statistiques du langage ne peuvent pas vérifier l'arithmétique. Prix, pourcentages, ratios, dates : un modèle peut produire un P/E de 23,4 aussi couramment que 32,4, et les deux paraissent également justes sur la page. Rien dans la prédiction du token suivant ne vérifie la soustraction.

Les entités se télescopent. Des milliers de tickers, beaucoup presque identiques, plus l'habitude de la crypto de nommer des meme tokens d'après des actifs célèbres. Un modèle interrogé sur « SPX » peut mélanger l'indice S&P 500 avec un token sans rapport portant le même ticker, et livrer le mélange en douceur.

La fraîcheur est structurelle, pas accidentelle. Les marchés bougent à chaque seconde ; les données d'entraînement s'arrêtent quelque part. Interrogé sur quoi que ce soit postérieur à sa coupure, un modèle n'a qu'une seule réponse honnête et une forte tentation stylistique de ne pas la donner. Le prix périmé à l'air plausible est la défaillance par défaut, pas la rare.

Les coûts sont asymétriques. Un fait halluciné dans le résumé d'un film gâche un instant. Un niveau de support halluciné dimensionne une position réelle.

Les taux mesurés justifient l'inquiétude. Des benchmarks de LLM financiers comme FailSafeQA ont documenté des hallucinations sur une part substantielle des questions de finance, une étude de 2024 trouvant des taux allant jusqu'à environ 41 % sans garde-fous (FailSafeQA et benchmarks apparentés, 2024-2025). La même littérature est tout aussi claire sur ce qui fonctionne : ancrer les réponses dans des données récupérées, contraindre le modèle à des appels d'outils structurés, et maintenir des points de validation humaine dans la boucle. Autrement dit, le remède est connu, et il est architectural.

La réponse par l'architecture : quatre murs porteurs

On ne fait pas cesser un modèle d'inventer. On construit un système où les inventions n'ont nulle part où aller. Quatre principes portent la charge.

1. Le LLM n'est jamais la source des chiffres. Chaque prix, valeur d'indicateur, solde et volume vient d'un flux de données de marché ou d'une API d'exchange, récupéré au moment de l'usage. Le modèle peut parler des chiffres qu'on lui a tendus ; il ne doit jamais les fournir de mémoire. Cette seule règle élimine la plus grande classe de dommages.

2. Les actions passent par des appels d'outils typés. Le modèle n'émet pas de texte libre que quelque chose en aval interprète comme un ordre. Il remplit des champs définis dans un schéma défini : actif issu d'une liste validée, quantité en nombre borné, type d'ordre issu d'une énumération. Un ticker fabriqué échoue à la validation au lieu d'atteindre une place. Pensez au pochoir, pas au stylo : quoi que le modèle écrive, seules des formes rigides passent au travers.

3. L'intention interprétée est validée en retour auprès de l'humain. Entre votre phrase et toute automatisation en marche s'intercale une étape de reformulation : voici la condition, la taille et la limite exactes que j'ai comprises ; confirmez. Malentendus et inventions deviennent visibles au moment le moins coûteux possible, avant que rien ne soit actif.

4. Tout est journalisé. Chaque interprétation, récupération de données et tentative d'ordre laisse une trace. Quand quelque chose vous surprend, le journal répond à « que croyait-il faire » par des preuves plutôt que par des impressions.

C'est le partage sur lequel Obside fonctionne. Le LLM du copilote fait le travail de langage : il interprète « vends la moitié de ma position si elle baisse de 8 % à partir d'ici » et rédige l'automatisation. Mais « à partir d'ici » est résolu par le moteur de pricing depuis des données réelles, les 8 % sont calculés de façon déterministe, l'ordre est une instruction typée routée avec les contrôles de risque appliqués à l'exécution, et les conditions reformulées attendent votre validation avant que l'agent n'existe. Une hallucination peut mal rédiger une proposition que vous lirez et rejetterez ; elle n'a aucun chemin vers le passage d'un ordre, parce que les composants qui touchent l'argent n'improvisent pas. La division du travail plus large entre modèles de langage et moteurs déterministes est cartographiée dans ce que les LLM peuvent et ne peuvent pas faire en trading.

La checklist « ceci peut-il me nuire »

Appliquez ces huit questions à tout produit de trading IA, y compris ceux que vous avez déjà connectés. Chacune s'accompagne de la réponse-signal d'alarme qui devrait clore l'évaluation.

#	Question à poser	Réponse signal d'alarme
1	D'où viennent les prix et les valeurs d'indicateurs ?	« L'IA connaît le marché » ou pas de réponse claire. Les chiffres doivent venir de flux de données nommés, pas du modèle.
2	Le modèle peut-il taper librement un ordre, ou remplit-il un schéma validé ?	Du texte libre où que ce soit entre le modèle et l'exécution.
3	Le système reformule-t-il ce qu'il a compris avant de l'exécuter ?	Votre phrase file droit vers une automatisation active.
4	Que se passe-t-il quand une donnée manque ou est périmée ?	Il répond quand même. Le comportement sûr est de refuser ou de signaler, jamais d'improviser.
5	Existe-t-il un mode paper utilisant le même pipeline que le réel ?	La simulation est un chemin de code séparé et plus joli, ou absente.
6	Les limites de risque sont-elles appliquées hors du modèle ?	Les limites font partie du prompt. Les prompts sont des suggestions ; les contrôles à l'exécution sont des lois.
7	Pouvez-vous auditer chaque décision après coup ?	Aucun journal de ce qui a été interprété, récupéré et envoyé.
8	Le marketing prétend-il que l'IA « prédit » les prix ?	Oui. Promesse de prédiction plus modèle de langage égale fiction assurée avec un abonnement.

Deux d'entre elles méritent d'être soulignées. La question 4 est le tueur silencieux : un système incapable de dire « je ne sais pas » substituera de la plausibilité exactement quand les conditions sont les plus étranges, ce qui est exactement quand vous comptez sur lui. Et la question 6 sépare le théâtre de l'ingénierie. Une règle de risque écrite dans un prompt peut être ignorée par le même mécanisme qui ignore les faits ; un contrôle de risque dans le chemin d'exécution ne le peut pas. Si un fournisseur ne peut pas vous dire lequel des deux il possède, supposez le type prompt.

Les produits qui échouent à trois de ces questions ou plus ne sont pas « précoces ». Ils sont câblés de sorte que la fabrication puisse atteindre votre argent. Le reste du registre des risques au-delà de l'hallucination, des backtests surajustés à la sécurité des clés, est classé dans les vrais risques des agents de trading IA.

Ce que l'hallucination ne signifie pas

Ce serait une conclusion erronée de renoncer entièrement aux modèles de langage en trading, car la défaillance est spécifique, pas générale.

Les LLM sont réellement solides sur la couche du langage : transformer un paragraphe d'intention en règles candidates, résumer un document de 40 pages aux trois points qui touchent vos positions, expliquer pourquoi les pertes d'un backtest se concentrent dans un régime, critiquer la logique d'une stratégie que vous avez écrite. Dans ces usages, la fabrication est soit absente (le texte source est fourni), soit peu coûteuse à repérer (vous revoyez la sortie avant que rien ne se passe). L'hallucination ne devient dangereuse que quand la sortie du modèle s'écoule vers l'exécution sans point de contrôle déterministe ni humain.

La position mature n'est donc ni la confiance ni l'abstinence. C'est le placement : les modèles de langage sur le langage, les moteurs sur les chiffres, les points de validation sur les actions. Là où ces points de validation ont leur place, et quelles décisions devraient toujours attendre une personne, est le sujet de l'humain dans la boucle en trading. Et si votre flux actuel consiste à coller à la main les suggestions d'un chatbot dans un courtier, les modes de défaillance propres à ce dispositif sont couverts dans ChatGPT pour le trading.

Où aller à partir d'ici

L'hallucination n'est pas un scandale au sujet de l'IA ; c'est une propriété de l'outil, comme le recul d'un fusil. On ne corrige pas le recul, on construit une crosse et une posture autour de lui. Posez les huit questions à tout ce qui veut accéder à vos comptes, refusez les produits où le modèle touche directement aux chiffres ou aux ordres, et exigez l'étape de reformulation à chaque fois.

Si vous voulez voir la version confinée en pratique, Obside met le LLM en service d'interprétation seulement, alimente chaque chiffre depuis des données de marché réelles, et maintient chaque automatisation derrière votre validation explicite, si bien que le pire qu'une hallucination puisse faire est de proposer quelque chose que vous lisez et déclinez.

Contenu éducatif uniquement. Ceci ne constitue pas un conseil en investissement. Le trading comporte des risques, y compris la perte de capital.