Ce que l’IA ne sait pas faire, et pourquoi il faut relire

Dans nos formations, le moment le plus utile de la séance n’est jamais celui où l’outil réussit. C’est celui où nous le faisons mentir devant tout le monde, exprès, sur un sujet que les participants connaissent par coeur.

Il ne bafouille pas. Il ne dit pas qu’il n’est pas sûr. Il répond d’un ton parfaitement assuré, avec une syntaxe impeccable, et il se trompe. C’est ce contraste qui frappe, et c’est celui dont les équipes reparlent le plus longtemps après.

Le problème n’est pas qu’il se trompe, c’est qu’il ne le dit pas

Un tableur qui plante affiche une erreur. Un logiciel qui ne trouve pas une référence vous le signale. Ces outils-là ont une propriété commune, très rassurante : ils savent qu’ils ne savent pas.

Un modèle de langage produit du texte plausible. Le plausible et le vrai coïncident souvent, ce qui rend ces outils utiles, mais rien dans le mécanisme ne distingue les deux. Quand la réponse juste manque, il en produit une qui a l’air juste. Le ton reste le même, et c’est précisément ce qui rend l’erreur difficile à repérer.

Il n’a pas le droit de dire « je ne sais pas », alors il invente. Ce n’est pas un défaut de l’outil que l’on corrigera dans deux ans : c’est la façon dont il fonctionne.

Les six choses qu’ils ratent le plus souvent

Voici ce que nous voyons revenir, dans les entreprises que nous accompagnons.

Les chiffres qui n’étaient pas sous ses yeux. Un montant, une surface, une quantité, un taux. S’il ne les a pas reçus, il en produit un vraisemblable. C’est la raison pour laquelle nos agents de devis ne chiffrent jamais une ligne absente de votre grille : ils la laissent vide et vous la signalent.

Les références et les sources. Un article de loi, une norme, un lien, une décision de justice. C’est le domaine où l’invention est la plus spectaculaire, parce que le format d’une référence est très régulier et donc très facile à imiter.

Les dates et les délais. Ce qui a changé récemment, ce qui entre en vigueur, ce qui a expiré. Un modèle a une date de connaissance, et il ne sait pas toujours qu’il l’a dépassée.

Le contexte propre à votre entreprise. Vos conditions de règlement, votre zone d’intervention, le nom de votre assureur, la façon dont vous découpez un chantier. S’il ne l’a pas reçu, il prendra la convention la plus répandue, qui n’est pas la vôtre.

Les calculs à plusieurs étapes. Une remise appliquée après une TVA appliquée après une quantité, sur une grille dégressive. Il se trompe rarement sur une multiplication et souvent sur l’enchaînement.

Ce qui demande de dire non. Refuser une demande, annoncer un retard, contester une facture, poser une limite à un client. Ce sont des actes qui engagent une relation, et un modèle entraîné à être serviable produit systématiquement une version trop accommodante.

La méthode de relecture que nous enseignons

Elle tient en trois passes et elle prend moins d’une minute sur un document d’une page. Ce n’est pas une relecture d’éditeur, c’est une relecture de contrôle.

Passe 1 : les chiffres. Tous, un par un. Chaque montant, chaque quantité, chaque date, chaque pourcentage. Si un chiffre ne figurait pas dans ce que vous avez fourni, il est faux jusqu’à preuve du contraire.

Passe 2 : les noms propres. Le nom du client, celui de l’entreprise, la référence du dossier, le nom du produit, l’adresse. C’est la deuxième source d’erreur, et c’est celle qui fait le plus mauvais effet chez le destinataire.

Passe 3 : ce que le document engage. Un délai annoncé, une garantie, une remise, une disponibilité. Demandez-vous si vous accepteriez de tenir chaque promesse écrite dans ce document. Si la réponse est non pour une seule phrase, elle sort.

Ce qui n’est pas dans ces trois passes, le style, la tournure, la longueur, importe beaucoup moins. Un texte un peu plat qui dit vrai vaut infiniment mieux qu’un texte élégant qui annonce un délai que vous ne tiendrez pas.

Ce que ça change dans la façon de construire un agent

Cette limite n’est pas une objection à l’automatisation, c’est une contrainte de conception, et elle explique la plupart de nos choix.

Un agent ne va jamais chercher une information qu’il pourrait inventer : il la prend dans une source que vous contrôlez, votre grille tarifaire, votre agenda, votre relevé bancaire. Quand la source ne répond pas, il s’arrête et vous le dit, au lieu de combler.

Un agent ne franchit jamais seul une étape irréversible. Un devis qui part, un mail au client, un paiement : ce sont des points d’arrêt. C’est la marche marquée « vous » sur chacun de nos agents, et elle est placée juste avant la première action irréversible, jamais à un rang fixe pour faire joli.

Un agent ne mesure pas ce qu’il ne peut pas mesurer. Nos relances suivent les réponses, pas les ouvertures de mail, parce qu’une ouverture se mesure avec un traceur et qu’un traceur suppose un consentement que vos clients n’ont pas donné.

Pour aller plus loin

La deuxième moitié de cette question concerne les informations que vous leur donnez, justement : ce qui a le droit de sortir de votre entreprise et ce qui ne doit jamais en sortir. C’est le sujet de notre article sur les données.

Et si vous voulez juger sur pièces, l’audit sur site répond tâche par tâche, y compris quand une tâche n’est pas automatisable. C’est le meilleur test de l’honnêteté d’un prestataire.