Newsletter

L'IA qui se trompait une fois sur dix

Comment 150h économisées sur le papier se sont transformées en crise de nerfs.

Didier Sampaolo Didier Sampaolo
Recevez la prochaine édition

Un mardi sur deux, un conseil actionnable pour améliorer votre performance opérationnelle.

Gratuit. Une seule édition tous les 15 jours. Désinscription en un clic.

L'IA est censée diviser le temps de traitement par deux. Dans la réalité, si elle est mal branchée, elle va juste multiplier les urgences par dix. Voici l'histoire d'un crash évitable, et la méthode pour cadrer vos automatisations sans péter un câble.

Scène vécue : une entreprise reçoit des bons de commande par email. Ce sont des PDF remplis et signés par ses clients.

Pour gagner du temps, ils ont monté un petit pipeline n8n avec un Claude derrière, à qui on donne les PDF, et qui doit les traduire en commandes dans l'ERP : valider le stock, appliquer les remises sur gros volumes (et même parfois par client, parce que "c'est un copain"), calculer le total, émettre la facture.

Sur le papier, 100 commandes par semaine, 20 minutes par commande, ça fait 150 heures (un temps plein) de boulot manuel économisées par mois. En plus, les commandes sont validées plus vite, donc les clients seront plus satisfaits.

Dans le vrai monde, Christine, chargée de la saisie, pète un câble.

Une fois sur dix, la commande ERP ne correspond pas exactement au PDF. Stocks non disponibles, remises calculées de travers, arrondis de TVA... Au final, la vérification a posteriori est pire que tout : non seulement il faut quasiment tout reprendre, mais en plus c'est devenu une urgence absolue, et vu que les factures ne sont pas carrées, le comptable commence à gratter le sol.

Pour régler le problème, ils ont empilé des instructions dans les prompts de leur mini-agent. C'est le fameux "Make no mistakes", qui est plus un vœu pieux qu'une instruction sérieuse.

L'expérience a duré un mois, foutu un bordel pas possible, et le dirigeant n'a plus voulu entendre parler d'IA. Heureusement, notre agence n'était pas dans le coup : je tiens cette histoire d'une discussion de comptoir.

Le concept de l'édition : le déterminisme

Un système est déterministe quand il rend toujours le même résultat pour la même donnée d'entrée. 2 x 2, ça fait 4, point barre. C'est ce qu'on obtient avec une formule dans un tableur, ou quelques lignes de code dans un logiciel métier.

Une IA générative, ça marche autrement. Un LLM produit la réponse la plus probable, mot après mot.

On peut la cadrer sérieusement, et c'est même une bonne partie du métier : un prompt soigné (les consignes qu'on lui donne à chaque appel), des exemples de bonnes réponses, et un accès direct à vos logiciels par une API ou un serveur MCP, deux façons de brancher un outil sur un autre. Cet échafaudage autour du modèle, le harness, fait gagner énormément de fiabilité.

Il restera toujours un petit pourcentage d'incertitude : personne ne le ramènera à zéro.

Le calcul qui refroidit

99 % de réussite par étape, ça sonne bien. Sur 10 000 commandes, ça fait 100 erreurs.

Et si votre automatisation enchaîne cinq étapes confiées à l'IA, vous tombez à 95 % de bout en bout. Une commande sur vingt part de travers.

L'erreur qui ne prévient pas

Une machine qui casse s'arrête et allume un voyant. Vous le voyez tout de suite.

Une IA qui se trompe renvoie quand même une réponse crédible. Rien ne s'allume. Vous le découvrez trois semaines plus tard, dans un chiffre que vous avez déjà envoyé au client.

Le test : "est-ce que je sais écrire la règle ?"

Prenez votre process, étape par étape. À chacune, posez-vous une seule question : est-ce que je saurais écrire cette décision sous forme de règle, en une phrase ?

  • Oui ? Alors elle devient une règle. Du code, une condition dans votre outil, peu importe la forme. La machine l'appliquera à l'identique, à chaque fois.
  • Non ? l'IA garde la main, et un humain valide.

Une seule question, et vous savez trancher.

Comment on s'y prend

Reprenons la commande client. Elle arrive par mail, avec un bon de commande en PDF.

  1. L'IA lit le PDF et en sort les références et les quantités. C'est le bon endroit pour elle : chaque client a sa mise en page, son vocabulaire, ses abréviations maison. Aucune règle ne couvrirait tous les cas.
  2. Le code vérifie que chaque référence existe au catalogue. Si une seule manque, la commande bascule dans un bac "à traiter à la main". Idem par exemple si les quantités sont farfelues par rapport aux habitudes du client.
  3. Le code calcule la grille tarifaire personnalisée, remises, total.
  4. L'IA rédige l'accusé de réception et l'adapte au ton de la maison.

Le total ne passe jamais par l'IA. Si le client conteste dans six mois, vous rejouez le calcul et vous retombez sur le même chiffre. Vous savez d'où il vient et vous pouvez l'expliquer.

C'est ce travail de découpage qu'on mène pendant un audit d'efficacité opérationnelle : dérouler le process étape par étape, et décider à chaque fois ce qui relève du jugement et ce qui relève de la règle.

Les réflexes qui changent la donne

  • Le flou en entrée, le calcul au milieu. L'IA excelle à lire ce qui n'a pas de format : un mail, un PDF scanné, une demande mal formulée. Une fois la donnée propre et structurée, le code reprend la main.
  • Jamais d'argent ni de délai dans les mains du modèle. Montants, remises, dates d'échéance, stocks : tout ça se calcule.
  • Une sortie fermée plutôt qu'un texte libre. Demandez à l'IA de choisir dans une liste ("urgent / normal / à requalifier") au lieu de rédiger. On appelle ça un structured output : le modèle rend une donnée au format imposé, que votre logiciel peut contrôler avant de l'accepter. Si la réponse n'est pas dans la liste des valeurs acceptées, le dossier part en traitement manuel.
  • Un bac "à traiter à la main", assumé dès le départ. Une automatisation qui traite 85 % des cas et signale les 15 % restants vaut mieux qu'une qui prétend tout traiter. Ce point de contrôle humain, le human in the loop, se conçoit dès le premier schéma. Chaque doute doit lever une alerte et demander à un humain de trancher.

J'insiste sur ce dernier point : vouloir automatiser une tâche à 100 %, c'est souvent le meilleur moyen de se prendre un mur. Visez déjà 50 ou 80 %, et répétez l'opération sur d'autres tâches. Il vous restera toujours du boulot à vous taper à la main : si quelqu'un vous vend le contraire, barrez vous en courant.

Le vrai sujet de la rentrée

Vous vous posiez déjà cette question avec vos équipes : qu'est-ce qu'on laisse au jugement de quelqu'un, et qu'est-ce qu'on écrit dans une procédure ?

L'IA n'y change rien. C'est un nouveau collaborateur, très rapide, et capable de s'envoyer dans le décor en gardant le sourire. Alors chaque fois que vous savez fixer les règles, faites-le. Le reste, l'IA s'en occupe, sous surveillance.

Christine, elle, n'aurait jamais dû relire 100 commandes par semaine. Deux jours de découpage en amont, et le pipeline tournait.

C'est ce qu'on fait chez nos clients : des chaînes où l'IA fait ce qu'elle fait de mieux, et où le reste est gravé dans le marbre.