Boîte noire

Le vrai truc

Un grand modèle contient des centaines de milliards de paramètres numériques, ajustés par apprentissage et non écrits par quelqu'un. On observe son entrée et sa sortie, mais on ne peut pas remonter la chaîne de raisons qui mène de l'une à l'autre. Ce n'est pas une figure de style : les équipes qui construisent ces modèles ne savent pas expliquer une réponse donnée, et une discipline entière, l'interprétabilité, existe pour tenter d'y parvenir. Un fournisseur qui garantit le contraire décrit son interface, pas son modèle.