Interprétabilité

Le vrai truc

La discipline cherche à comprendre ce qui se passe à l'intérieur d'un modèle, plutôt qu'à le deviner depuis ses réponses. Les travaux récents parviennent à isoler des unités de calcul correspondant à des concepts, et à les activer ou les éteindre pour observer l'effet produit. Les résultats sont réels mais partiels : on sait décrire des fragments, pas expliquer une réponse complète. La discipline progresse beaucoup moins vite que ne grossissent les modèles qu'elle étudie.