« Un humain dans la boucle suffit à garder le contrôle. »
Pas forcément. Un humain qui valide cinq cents propositions par jour ne contrôle plus grand-chose. Le contrôle se conçoit : qui vérifie quoi, à quel moment, avec quelle information.
Mis à jour le 24 octobre 2026
Ce qui se passe.
Placer un humain dans la boucle est devenu la réponse habituelle aux risques de l’IA : l’outil propose, une personne valide, et le contrôle est assuré. La formule rassure, et elle est souvent exigée.
Mais un contrôle qui n’est pas conçu n’en est pas un. Une personne qui valide des centaines de propositions par jour finit par valider sans lire. Si elle ne voit que la proposition, sans les éléments qui la justifient, elle ne peut pas juger. Et si l’outil a raison dans la quasi-totalité des cas, l’attention se relâche précisément sur les rares erreurs. Le contrôle se conçoit : qui vérifie quoi, à quel moment, avec quelle information et quel temps.
Ce que nous observons.
- La validation devient un réflexe.Au-delà d’un certain volume, valider n’est plus examiner.
- Le contrôleur manque souvent d’information.Il voit la conclusion de l’outil, rarement ce qui l’a produite.
- Tout contrôler revient à ne rien contrôler.Mieux vaut cibler les cas incertains ou à fort enjeu que tout relire superficiellement.
Ce que vous pouvez faire dès maintenant.
- Mesurez combien de propositions chaque personne valide par jour, et combien elle en refuse.
- Faites afficher les éléments qui justifient chaque proposition, et signaler les cas où l’outil doute.
- Concentrez la vérification humaine sur les cas à fort enjeu, et contrôlez les autres par échantillon.