Pourquoi ce sujet est important
Ajouter un bouton “valider” à chaque étape rend l’agent inutilisable. Ne rien valider expose l’organisation à des actions incorrectes. Le human-in-the-loop consiste à placer une décision humaine là où elle réduit réellement le risque.
Identifier les décisions à risque
Classez outils et sorties selon impact, réversibilité, sensibilité et confiance. Lecture d’une documentation et suppression d’un compte ne nécessitent pas le même contrôle. Exigez une validation pour paiements, publications, messages externes, suppressions et décisions affectant une personne.
Choisir le bon moment
Validez une proposition complète avant l’effet externe. L’interface doit afficher action, arguments, destinataire, source, coût et conséquence. Évitez de demander à l’humain de relire toute la chaîne ; montrez les éléments utiles à sa décision.
Concevoir les réponses humaines
Prévoir approuver, rejeter, modifier et demander plus d’information. Un commentaire libre seul est difficile à exploiter. Enregistrez la décision structurée, la personne, la date et la version de la proposition.
Suspendre et reprendre
L’agent doit sauvegarder son état avant l’attente. Utilisez un identifiant de tâche et un checkpoint. À la reprise, vérifiez que droits, données et contexte sont toujours valides. Une approbation expirée ne doit pas exécuter une action devenue obsolète.
Définir seuils et règles
La confiance déclarée par le modèle ne suffit pas. Combinez règles métier, montant, type d’action, qualité de données et scores calibrés. Commencez avec beaucoup de revue, puis automatisez uniquement les segments dont le risque mesuré est acceptable.
Gérer la file de revue
Priorisez selon urgence et risque, attribuez à des personnes compétentes et fixez un délai. Prévoyez escalade, absence du valideur et charge maximale. Une file saturée doit ralentir le système plutôt que contourner les contrôles.
Apprendre des décisions
Analysez rejets, modifications et délais. Transformez les cas récurrents en règles, données d’évaluation ou améliorations d’interface. Ne réutilisez pas automatiquement les décisions humaines pour entraîner sans gouvernance et vérification.
Exemple concret
Un agent prépare des remboursements. Sous 20 euros avec dossier complet, il peut proposer une exécution automatique après contrôles déterministes. Au-delà, il génère un récapitulatif avec justificatifs et attend un approbateur. Si le dossier change pendant l’attente, l’approbation expire.
Les erreurs fréquentes
- demander une validation à chaque étape
- afficher seulement la réponse sans sources
- considérer la confiance du modèle comme probabilité fiable
- reprendre une tâche avec des données périmées
- laisser la file saturée contourner le contrôle
- ne pas mesurer les corrections humaines
Checklist
- [ ] Actions classées par risque
- [ ] Point de validation avant effet
- [ ] Contexte et sources affichés
- [ ] Décisions structurées et auditées
- [ ] Checkpoint et expiration prévus
- [ ] File et escalade dimensionnées
- [ ] Métriques de rejet et modification suivies
FAQ
Quelles actions doivent toujours être validées ?
Celles à impact élevé, difficilement réversibles, sensibles ou représentant l’utilisateur auprès d’un tiers.
Comment réduire la charge humaine ?
Automatisez progressivement les cas simples après mesure, améliorez le contexte présenté et regroupez les revues similaires.
Une approbation peut-elle expirer ?
Oui, et elle devrait expirer lorsque données, prix, droits ou contexte peuvent changer.
Que mesurer ?
Taux d’approbation, modification, rejet, délai, erreurs évitées et incidents après approbation.