Quand plus d'échantillonnage nuit : le plafond modal et le plafond de corrélation du passage à l'échelle au moment du test.

Résumé

Les humains trop réfléchissent ; les modèles de langage sur-échantillonnent, et l'effort supplémentaire peut amener les deux à une réponse moins bonne. Les systèmes de raisonnement répondent à une question difficile en l'échantillonnant de nombreuses fois (passage à l'échelle au moment du test), et plus ils tirent, plus une réponse correcte apparaît quelque part, de sorte que la couverture, la fraction de problèmes avec au moins une tentative correcte, augmente et semble être un progrès. Mais un système déployé doit renvoyer une seule réponse, et la choisir, sans savoir quelle tentative est correcte, c'est la sélection ; la sélection est plafonnée, et au-delà d'un certain point, des échantillons supplémentaires ne font que rendre le modèle plus sûr d'une erreur confiante, même si chaque tirage ajoute un coût. L'écart entre la couverture croissante et la sélection stagnante, l'écart d'identifiabilité, est la réponse qu'un modèle peut produire mais pas choisir. Donc la vraie question n'est pas de savoir s'il faut échantillonner, mais jusqu'où, et la réponse est : pas loin. Pour choisir une réponse, le vote s'est déjà stabilisé en quelques dizaines de tirages, le plafond modal ; pour noter un benchmark, encore plus tôt, le plafond de corrélation. Au-delà de cela, des tirages supplémentaires coûtent du calcul et n'ajoutent rien, et peuvent même rendre la réponse pire. Cet article transforme le seuil en un nombre unique, le nombre effectif d'échantillons, que toute session d'échantillonnage révèle déjà. Le goulot d'étranglement est de reconnaître une réponse correcte, pas d'en générer une.

English

People overthink; language models over-sample, and the extra effort can talk both into a worse answer. Reasoning systems answer a hard question by sampling it many times (test-time scaling), and the more they draw, the more often a correct answer turns up somewhere, so coverage, the fraction of problems with at least one correct try, climbs and appears to be progress. But a deployed system must return one answer, and choosing it, not knowing which try is right, is selection; selection is capped, and past a point extra samples only make the model surer of a confident mistake, even as every draw adds cost. The gap between climbing coverage and stalled selection, the identifiability gap, is the answer a model can produce but not pick. So the real question is not whether to sample but how far, and the answer is: not far. For picking an answer, the vote has already settled within a few dozen draws, the modal ceiling; for scoring a benchmark, sooner still, the correlation ceiling. Beyond that, extra draws cost compute and add nothing, and can even make the answer worse. This paper turns the cutoff into a single number, the effective number of samples, that any sampling run already reveals. The bottleneck is recognizing a right answer, not generating one.