Un chiffre inventé n'est pas un bug. C'est une faute professionnelle.

Ce qu'elle sait faire, et ce qu'elle ne doit pas faire

Elle sait lire, croiser, rapprocher, résumer, expliquer, signaler. Sur ces terrains, elle apporte quelque chose qu'aucun tableau de bord ne remplace.

Elle sait aussi produire un nombre qui a toutes les apparences du sérieux et qui ne repose sur rien. Ce n'est pas un défaut qu'on corrigera avec un modèle plus récent : c'est la nature même de l'exercice. Un modèle de langage produit ce qui est plausible, pas ce qui est exact.

Dans une note de synthèse, une approximation se rattrape. Dans une prévision de trésorerie, un montant faux n'est pas une imprécision. C'est une décision prise sur une donnée qui n'existe pas.

La règle que nous appliquons

Les chiffres sont calculés. L'IA commente, alerte, met en perspective, recommande. Elle ne produit jamais un montant.

La frontière paraît évidente une fois posée. Elle ne l'est pas du tout au moment de concevoir, parce qu'il est bien plus rapide de demander à un modèle de tout faire que de séparer proprement ce qui relève du calcul de ce qui relève de l'interprétation.

Un exemple

Prenez une prévision de trésorerie. Vous saisissez votre chiffre d'affaires attendu et vos charges. Les encaissements, les décaissements, la TVA et le solde à douze mois se calculent, avec des règles qu'on peut ouvrir et vérifier ligne par ligne. Chaque mois, vous entrez le solde réel, l'écart apparaît, la suite se recalcule.

L'IA, elle, intervient à côté. Elle attire l'attention sur le mois où ça se tend, met en rapport une baisse d'encaissement avec un client qui paie plus lentement depuis un trimestre, suggère de tester un scénario. Elle éclaire des chiffres qu'elle n'a pas fabriqués.

Où passe la frontière

La question à poser devant n'importe quel outil est simple : ce nombre, d'où vient-il ?

S'il vient d'un calcul qu'on peut rejouer à la main, il est vérifiable. S'il vient d'un modèle, il est invérifiable, et personne ne pourra dire pourquoi il valait cela plutôt qu'autre chose. Sur un sujet financier, juridique ou réglementaire, cette seconde situation est inacceptable.

C'est une contrainte de conception, pas une précaution d'usage. Elle se décide avant de construire.

La confiance ne vient pas de ce qu'un outil sait faire. Elle vient de ce qu'il refuse de faire.