← Lexique

Top-p

Aussi : nucleus sampling · top-p sampling

Échantillonnage limitant le choix aux tokens couvrant une masse de probabilité p.

Le top-p, ou échantillonnage par noyau, restreint le tirage du prochain token à l'ensemble le plus probable dont les probabilités cumulées atteignent le seuil p. Il agit sur la diversité des sorties, en complément ou à la place de la température.

Deux réglages pour un même objectif — maîtriser la variété — mais un mécanisme différent : le top-p coupe la longue traîne des tokens improbables, ce qui limite les dérapages tout en laissant un peu de latitude. Utile quand on cherche du naturel sans introduire d'incohérences de forme.

En production éditoriale, on abaisse le top-p pour verrouiller un format ou un ton, on le relâche pour varier des angles. Comme la température, il se cale empiriquement sur des exemples, et son effet se lit dans la régularité des tokens produits d'un essai à l'autre.

Le top-p ne garde que le noyau de tokens couvrant la masse de probabilité p.
Échantillonnage par noyauDonnées anonymisées

Besoin d’appliquer ce concept sur un cas concret ?

Parler de votre prochaine mission