Comment empêcher l'IA d'inventer vos chiffres
Un grand modèle de langage ne consulte rien. Il prédit les mots les plus plausibles, et un nombre d'apparence plausible est exactement le genre de texte qu'il excelle à produire. Dans la plupart des écrits, c'est sans conséquence. En finance, c'est dangereux : un chiffre fabriqué qui ressemble à un vrai passe droit dans un modèle, une prévision ou un dossier de conseil avant que quiconque ne le questionne. Cette page présente la discipline qui empêche cela.
Le remède n'est ni un meilleur modèle ni une astuce ingénieuse : c'est un court jeu d'instructions de garde-fou que vous ajoutez à chaque prompt de costing. Elles forcent l'IA à ne travailler qu'à partir des données fournies, à montrer ses formules, à signaler ce qui manque et à reconnaître ce qu'elle ignore. Utilisez les sept ci-dessous séparément, ou collez le bloc combiné en tête de n'importe quel prompt. Elles transforment un devineur assuré en un assistant prudent, condition d'un usage fiable pour le TDABC (Time-Driven Activity-Based Costing) et tout calcul de rentabilité.
Pourquoi cela se produit
Ce n'est pas un bug qu'une version future effacera discrètement. C'est inhérent au fonctionnement des modèles de langage. Ils sont entraînés à générer un texte statistiquement probable au vu de tout ce qui précède, sans notion intégrée de vérité ni de savoir si un nombre a réellement été calculé. Quand votre prompt laisse un vide, le modèle le comble avec ce qui est le plus plausible, et plausible n'est pas synonyme de correct. Des travaux indépendants rapportent des taux d'hallucination de l'ordre de 15 à 25 pour cent sur des tâches financières et numériques en l'absence de garde-fous ; ce chiffre est approximatif, varie fortement selon le modèle et la tâche, et doit être vérifié plutôt que cité comme précis. Le sens du constat est l'essentiel : sans protection, ces outils inventent à un rythme qui compte en finance.
Nous l'avons testé nous-mêmes avant d'écrire ceci. Face à une consigne vague, « construis-moi un modèle TDABC », sans aucune donnée jointe, le modèle a produit un modèle complet et assuré : il a inventé un coût de département, un effectif et un taux de capacité par minute, dont aucun n'existait, en les présentant avec la même autorité tranquille qu'un résultat réel. Rien dans la sortie ne signalait que le socle était fictif. C'est précisément le mode de défaillance à prévenir, car plus la réponse paraît soignée, moins on la vérifie.
Les sept garde-fous
Chaque instruction ci-dessous ferme un vide que le modèle comblerait autrement par l'invention. Employez-les une à une ou combinées dans le bloc final.
1. Le restreindre aux données que vous fournissez
L'instruction la plus importante. Elle supprime les vides que le modèle comblerait sinon par l'invention. Collez-la pour cadrer toute analyse.
Travaille uniquement à partir des données que je te fournis. N'invente aucun nombre, taux ou volume.
2. Lui faire signaler chaque hypothèse
Quand le modèle doit supposer quelque chose, vous voulez que ce soit dit clairement, non enfoui dans le calcul.
Énumère chaque hypothèse que tu poses. Si un chiffre manque, marque-le DONNÉE MANQUANTE et indique-moi ce dont tu as besoin.
3. Lui faire montrer la formule avant le nombre
Une formule visible est vérifiable ; un nombre nu ne l'est pas. Cela rattrape aussi les erreurs d'arithmétique.
Montre la formule à chaque étape avant de calculer la moindre valeur.
4. Lui donner le droit de dire « je ne sais pas »
Les modèles inventent en partie parce qu'on les pousse à être serviables. Autorisez explicitement la non-réponse.
Si tu ne peux pas dériver un chiffre de mes données, dis-le. N'estime pas.
5. Lui faire citer la ligne source
Rattacher chaque nombre à une ligne de vos données rend la fabrication évidente, car un nombre inventé n'a pas de source.
Pour chaque nombre, cite la ligne source exacte dans mes données.
6. Lui faire séparer le fait de l'inférence
Vous devez savoir quelles parties sont vos données, lesquelles sont des hypothèses et lesquelles relèvent de l'avis du modèle.
Sépare clairement ce que tu as calculé à partir de mes données, ce que tu as supposé, et ce qui relève de ta suggestion.
7. Lui faire vérifier les totaux
Un contrôle de réconciliation en fin de course rattrape l'invention et l'erreur de calcul en une seule passe.
Après le calcul, vérifie que les parties totalisent bien l'ensemble et signale tout écart.
Le bloc de garde-fous complet
Collez ceci une fois en tête de n'importe quel prompt de costing. Il combine les sept en une seule consigne que le modèle doit suivre avant de toucher à vos données.
Avant de répondre, applique ces règles à toute la réponse : 1. Travaille uniquement à partir des données que je te fournis. N'invente aucun nombre, taux ou volume. 2. Énumère chaque hypothèse que tu poses. Si un chiffre manque, marque-le DONNÉE MANQUANTE et indique-moi ce dont tu as besoin. 3. Montre la formule à chaque étape avant de calculer la moindre valeur. 4. Si tu ne peux pas dériver un chiffre de mes données, dis-le. N'estime pas. 5. Pour chaque nombre, cite la ligne source exacte dans mes données. 6. Sépare clairement ce que tu as calculé à partir de mes données, ce que tu as supposé, et ce qui relève de ta suggestion. 7. Après le calcul, vérifie que les parties totalisent bien l'ensemble et signale tout écart.
Un garde-fou réduit le risque ; un vrai modèle le supprime
C'est exactement la discipline que nous appliquons en construisant un modèle de coûts : ne travailler que sur des données réconciliées, montrer chaque formule, signaler chaque hypothèse, rattacher chaque nombre à une source. Un garde-fou de prompt abaisse la probabilité d'un chiffre fabriqué, mais il ne peut pas réconcilier votre grand livre, valider vos inducteurs ni assumer le résultat. Seul un modèle bâti sur vos données réelles et réconciliées le fait. Voir aussi la construction d'un modèle TDABC avec l'IA et la méthode TDABC.
Questions fréquentes
- Pourquoi une IA invente-t-elle des chiffres financiers ?
- Parce qu'un modèle de langage ne consulte rien : il prédit le texte le plus probable au vu de ce qui précède, sans notion intégrée de vérité ni de calcul réel. Quand votre prompt laisse un vide, il le comble par ce qui est plausible, et un nombre d'apparence crédible est justement ce qu'il produit le mieux. Ce n'est pas un défaut passager mais une propriété du procédé.
- Les garde-fous suppriment-ils complètement les hallucinations ?
- Non. Ils réduisent fortement la probabilité d'un chiffre fabriqué en forçant le modèle à travailler sur vos seules données, à montrer ses formules et à signaler les manques. Mais ils ne peuvent pas réconcilier un grand livre ni valider un inducteur. Ils abaissent le risque ; seul un modèle bâti sur des données réelles et réconciliées le supprime.
- Quel est le garde-fou le plus important à retenir ?
- Restreindre le modèle aux seules données fournies, en lui interdisant d'inventer nombres, taux ou volumes. Cette unique instruction ferme la plupart des vides que le modèle comblerait autrement. Les six autres la complètent, mais si vous n'en gardez qu'une, gardez celle-là.
- Puis-je utiliser ces garde-fous avec ChatGPT, Claude ou Gemini ?
- Oui. Ces instructions sont indépendantes de l'outil et fonctionnent avec n'importe quel assistant de langage. Collez le bloc combiné en tête de votre prompt, avant vos données, quel que soit le modèle. La discipline compte plus que le choix du fournisseur.
- Un garde-fou remplace-t-il un modèle de rentabilité ?
- Non. Un garde-fou améliore la fiabilité d'un prompt ponctuel, mais un modèle de rentabilité digne d'un conseil d'administration repose sur votre grand livre réel, réconcilié à vos comptes et maintenu dans un logiciel comme CostCtrl. Le prompt aide à rédiger ; le modèle assume le résultat.
Références et pour aller plus loin
Vos chiffres méritent-ils mieux qu'un devineur assuré ? Le Profit Check gratuit prend 5 minutes et montre où la marge se crée et où elle se perd chez vous. Ou écrivez-nous via la page de contact.
France · Afrique francophone
Faire le Profit Check