Garde-fous

Le vrai truc

Ce sont des filtres posés autour du modèle et non dedans : classement du texte entrant et sortant, listes d'interdits, règles écrites dans la consigne système. On les ajoute après coup parce qu'on ne sait pas garantir le comportement du modèle lui-même. Ils se contournent, et la liste des contournements connus s'allonge à mesure que des gens cherchent. Leur utilité réelle est de rendre l'accident rare, pas impossible.