Sommaire
En résumé
- Le HITL (Human-In-The-Loop) fait valider par une personne les décisions d'une IA avant leur exécution.
- Le HOTL (Human-On-The-Loop) laisse l'IA agir seule sous surveillance, avec la possibilité de l'arrêter.
- Un seuil de confiance envoie en validation les seuls cas incertains, et un journal trace chaque décision.
- Le droit européen exige une intervention humaine réelle quand une décision automatisée affecte fortement une personne.
Le HITL (Human-In-The-Loop) désigne un système automatisé dans lequel une personne valide la décision avant son exécution. L'IA prépare le travail et propose une réponse ou une action, puis un collaborateur la valide ou la corrige avant qu'elle produise un effet.
Le terme s'applique surtout à l'IA générative et aux agents IA, ces programmes qui enchaînent seuls plusieurs actions, comme lire un mail puis remplir un logiciel.
Prenons une entreprise qui traite ses factures fournisseurs. Une IA lit chaque facture, retrouve le bon de commande et propose le rapprochement. Quand les montants concordent, la facture part en paiement. Quand un écart apparaît, la facture arrive sur l'écran d'un comptable. Il tranche, puis l'IA reprend le traitement. Ce comptable est l'humain dans la boucle.
Le HITL répond à un problème simple. Une IA se trompe parfois, et elle se trompe avec assurance. Un modèle de langage peut inventer un chiffre ou un nom : on parle d'hallucination. Sans validation, l'erreur part directement chez le client ou dans la comptabilité. Avec une validation placée au bon endroit, une personne repère l'erreur avant qu'elle ait des conséquences.
HITL, HOTL et human-over-the-loop
On distingue trois façons de placer une personne face à un système automatisé.
Avant l'action
Human-in-the-loop (HITL)
La personne valide chaque décision, ou chaque décision incertaine, avant son exécution. L'IA ne peut rien faire seule sur ces cas. Ce mode convient aux actions difficiles à annuler, comme un paiement ou un mail envoyé à un client.
Pendant l'action
Human-on-the-loop (HOTL)
Le HOTL (Human-On-The-Loop) laisse l'IA agir seule. Une personne suit un tableau de bord, reçoit des alertes et peut arrêter le système à tout moment. Ce mode convient aux gros volumes et aux actions réversibles, comme le classement des tickets de support.
Avant la mise en service
Human-over-the-loop
La personne ne regarde pas chaque cas. Elle fixe les règles : ce que l'IA a le droit de faire et les seuils de validation. On parle aussi de human-in-command. Ce niveau existe toujours, même quand personne ne valide au quotidien.
Faut-il un HITL ou un HOTL ?
Deux questions suffisent pour décider. Que coûte une erreur ? Peut-on l'annuler facilement ? Une réponse automatique sur les horaires d'ouverture supporte une simple surveillance. Un virement ou une résiliation de contrat demandent une validation avant l'action.
Le HITL ne porte pas forcément sur tous les dossiers. Le plus souvent, l'IA traite seule les dossiers simples et transmet les dossiers incertains. Cette validation sélective garde le gain de temps de l'automatisation.
Mettre en place un human-in-the-loop en cinq étapes
La démarche vaut pour un développement sur mesure comme pour un outil du marché.
-
Lister les décisions de l'automatisation
Décrivez chaque action que l'automatisation peut déclencher : répondre, modifier une donnée, payer, supprimer. Pour chacune, notez le coût d'une erreur et la possibilité de revenir en arrière. Le registre des automatisations sert de point de départ quand il existe.
Objectif : Savoir quelles décisions demandent une validation et lesquelles peuvent partir seules.
-
Fixer un seuil de confiance
Beaucoup d'outils d'IA renvoient un score de confiance : un chiffre qui indique à quel point le modèle est sûr de sa réponse. Au-dessus d'un seuil, l'action part seule. En dessous, elle attend une validation. Ce score n'est pas toujours fiable, il faut le comparer aux erreurs constatées. Sans score exploitable, des règles simples font le tri, comme un montant maximal ou un type de client.
Objectif : Envoyer en validation les cas incertains, et seulement eux.
-
Concevoir l'écran de validation
Le valideur voit sur un seul écran la proposition de l'IA, les éléments qui la justifient et les données d'origine. Il valide ou refuse en un clic, et il peut corriger la proposition avant de la valider. Chaque demande a un délai et un remplaçant. Sans réponse dans le délai, elle passe à une autre personne : c'est l'escalade.
Objectif : Permettre une vraie vérification en quelques secondes, sans changer d'outil.
-
Tracer chaque décision
Le système enregistre la proposition de l'IA, la décision humaine, son auteur, l'heure et la raison d'un refus. Ce journal assure la traçabilité : l'entreprise peut répondre à un client qui conteste ou à une autorité de contrôle.
Objectif : Prouver qui a décidé quoi, et sur quelle base.
-
Revoir les seuils chaque mois
Comparez les propositions de l'IA et les décisions des valideurs. Si les humains corrigent rarement une catégorie de cas, elle peut passer en automatique. Si les corrections augmentent, le seuil remonte. Le taux de correction, c'est-à-dire la part des propositions modifiées par un humain, devient l'indicateur principal.
Objectif : Faire évoluer la part d'automatique à partir de chiffres réels.
Le biais d'automatisation, limite du HITL
Une validation humaine ne protège que si la personne vérifie vraiment. Après des centaines de propositions justes, le valideur fait confiance à la machine et clique sur « valider » sans lire. Ce phénomène s'appelle le biais d'automatisation : l'humain accorde trop de crédit à un résultat produit par un système automatique.
Plusieurs mesures limitent ce risque :
- Limiter le volume. Un valideur qui reçoit trois cents demandes par jour ne les lit pas.
- Montrer les raisons. L'écran affiche les éléments qui justifient la proposition.
- Glisser des cas de contrôle. Le système insère de temps en temps une proposition volontairement fausse et mesure si le valideur la repère.
- Suivre le temps de décision. Une validation en une seconde sur un dossier complexe signale une validation machinale.
- Protéger le droit de refuser. Le valideur peut dire non sans se justifier à chaque fois auprès de sa hiérarchie.
La supervision humaine selon le RGPD et l'IA Act
Le RGPD (Règlement Général sur la Protection des Données) donne à chaque personne, dans son article 22, le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, quand cette décision produit des effets juridiques ou l'affecte de manière significative. Un refus de crédit ou le rejet d'une candidature entrent dans ce cadre. Quand une telle décision reste permise, par exemple parce qu'elle est nécessaire à un contrat, l'entreprise doit garantir à la personne le droit d'obtenir une intervention humaine et de contester la décision. Le valideur doit avoir l'autorité et les informations pour changer la décision.
Le règlement européen sur l'intelligence artificielle, appelé IA Act, impose dans son article 14 un contrôle humain pour les systèmes d'IA à haut risque : recrutement, crédit, accès à des services essentiels, éducation. Les personnes chargées de ce contrôle doivent comprendre les capacités et les limites du système, rester attentives au biais d'automatisation, interpréter correctement les résultats et pouvoir arrêter le système. La plupart des usages courants en entreprise, comme la saisie de factures ou le tri de mails, ne relèvent pas du haut risque. L'article 14 reste pour eux une bonne grille de lecture.
Quand un traitement de données personnelles présente un risque élevé pour les personnes, la DPIA (Data Protection Impact Assessment), ou analyse d'impact relative à la protection des données, décrit ce traitement et ses mesures de protection. La validation humaine figure alors parmi ces mesures.
Qui place les points de validation humaine ?
Placer un HITL relève d'abord de l'organisation. Quelqu'un doit dire quelles décisions l'IA prend seule et qui valide les autres. Sans ce choix explicite, chaque équipe règle les seuils à sa façon.
La matrice des rôles et responsabilités désigne le valideur de chaque type de décision et son remplaçant. La charte d'automatisation fixe les règles communes, comme les actions toujours soumises à validation et les données que l'IA ne doit pas traiter. Le registre des automatisations garde la trace de chaque automatisation, de son responsable et de ses points de validation.
Dans une entreprise dotée d'une DSI (Direction des Systèmes d'Information), ces arbitrages se font entre la DSI et les métiers. Dans une entreprise sans DSI, ils retombent souvent sur le dirigeant, qui manque de temps et de recul technique pour trancher. Une direction des opérations et du système d'information en temps partagé peut tenir ce rôle : elle choisit les outils et décide avec le dirigeant où placer les points de validation.
Côté technique, les points de validation se prévoient dès la conception. Le cahier des charges demande des agents IA monitorés et sous contrôle humain. Chaque action de l'agent est enregistrée. Les cas incertains partent vers le bon valideur. L'agent s'arrête seul quand son taux d'erreur dépasse un seuil.
Questions fréquentes
Qu'est-ce que le human in the loop ?
C'est un mode de fonctionnement où une personne valide les décisions d'un système automatisé avant leur exécution. La validation porte sur tous les cas ou sur les seuls cas incertains.
Quelle différence entre human in the loop, human on the loop et human over the loop ?
Avec le human in the loop, la personne valide avant l'action. Avec le human on the loop, l'IA agit seule et la personne surveille, avec la possibilité d'arrêter le système. Avec le human over the loop, la personne fixe les règles et les limites sans intervenir sur chaque cas.
Comment mettre en place un human-in-the-loop ?
Listez les décisions de l'automatisation, fixez un seuil de confiance pour les cas incertains, donnez au valideur un écran clair, tracez chaque décision et revoyez les seuils chaque mois. Les cinq étapes sont détaillées plus haut.
Que signifie la supervision humaine dans les systèmes d'IA ?
C'est la capacité d'une personne à comprendre ce que fait un système d'IA et à reprendre la main. L'article 14 de l'IA Act l'impose aux systèmes à haut risque : la personne doit pouvoir interpréter les résultats, les ignorer ou arrêter le système.
La validation humaine d'une IA est-elle obligatoire ?
Pas pour tous les usages. Le RGPD l'impose quand une décision entièrement automatisée produit des effets juridiques ou affecte fortement une personne, comme un refus de crédit. L'IA Act l'impose pour les systèmes à haut risque. Ailleurs, elle se justifie dès qu'une erreur coûte cher ou ne s'annule pas.
Quelles bonnes pratiques de gouvernance pour des agents IA avec human-in-the-loop ?
Nommez un responsable par agent et un valideur par type de décision. Écrivez les actions que l'agent ne fait jamais seul. Suivez le taux de correction et le temps de validation.
Peut-on automatiser des correctifs ou des actions de confinement en cybersécurité avec une intervention humaine ?
Oui. Les outils de SOAR (Security Orchestration, Automation and Response) détectent un incident et proposent une action, comme isoler un poste ou bloquer un compte. Les actions réversibles partent seules. L'isolement d'un serveur de production ou un correctif sur un système critique attend la validation d'un analyste.
Dans Conformité
-
Confidentialité des données : les principes (minimisation, masquage, rétention)
Protégez vos données sensibles. Maîtrisez les 3 piliers de la confidentialité : minimisation (ne collecter que le nécessaire), masquage et durée de rétention.
-
AIPD (DPIA) : quand et comment faire une analyse d'impact RGPD
AIPD ou DPIA : quand l'analyse d'impact RGPD est obligatoire, les 9 critères, la méthode CNIL en 5 étapes et un exemple sur le tri de CV par IA.
-
AI Act : niveaux de risque et obligations des entreprises
L'AI Act (EU AI Act) classe l'IA en quatre niveaux de risque. Obligations des entreprises, articles 4, 26 et 50, calendrier après l'omnibus et sanctions.
-
Comprendre le 'Privacy by Design' (protection de la vie privée)
Le RGPD n'est pas une contrainte finale, c'est un principe de départ. Comprenez le 'Privacy by Design' pour intégrer la protection des données dès la conception.
-
RGPD : le résumé des bases légales et des droits des personnes
Un rappel simple sur le RGPD. Maîtrisez les concepts clés : bases légales du traitement, minimisation des données, droits des personnes et DPIA.
-
Qu'est-ce que le 'Shadow IT' et comment le gérer ?
Des outils (Airtable, Slack, ChatGPT) sont utilisés sans l'accord de la DSI ? C'est le 'Shadow IT'. Apprenez à l'identifier, évaluer les risques et le maîtriser.