Jailbreak

Le vrai truc

Un jailbreak est une consigne tournée de façon à contourner les règles d'un modèle : jeu de rôle, empilement d'exemples, texte déguisé, suffixe absurde qui déverrouille. Les protections ne sont pas d'un seul bloc : une partie est apprise à l'entraînement, le reste tient à des consignes système, à des filtres et à des contrôles posés autour du modèle. Chaque famille d'attaque connue finit par être couverte. Ce qui est couvert ne dit rien de ce que personne n'a encore essayé.