Overfitting

Le vrai truc

Un modèle surajusté reproduit très bien les exemples vus à l'entraînement et se dégrade sur tout le reste. On le repère en réservant une partie des données, jamais montrée pendant l'apprentissage, pour mesurer l'écart. Les remèdes usuels sont d'arrêter l'entraînement plus tôt, d'ajouter des données ou d'introduire du bruit. Le défaut symétrique existe aussi : un modèle trop simple qui n'apprend rien du tout.