Human-in-the-Loop

L’humain dans la boucle place un point de contrôle à l’étape qui engage — envoyer, payer, publier, décider. C’est le principal garde-fou pratique face au risque lié aux agents et, pour les systèmes à haut risque au sens du règlement européen sur l’IA, une version de ce principe est une obligation légale et non un supplément appréciable. Le mode de défaillance, c’est le tampon automatique : une relecture que personne n’effectue vraiment n’est pas un contrôle.

En pratique : L’agent prépare le remboursement ; une personne clique sur approuver.