Contrôle humain

Le vrai truc

L'expression vient de la robotique et de la défense, où elle désigne un opérateur capable d'interrompre une action automatique. Dans les projets IA elle sert surtout de garantie contractuelle et réglementaire. Son efficacité réelle se heurte à un effet décrit dès 1983 par Lisanne Bainbridge : plus un système se trompe rarement, moins la personne chargée de le surveiller reste attentive. Un contrôle qui porte sur tout ne porte en pratique sur rien.