STATe-of-Thoughts: Modelos de Ação Estruturados para Árvore de Pensamentos
STATe-of-Thoughts: Structured Action Templates for Tree-of-Thoughts
February 15, 2026
Autores: Zachary Bamberger, Till R. Saenger, Gilad Morad, Ofra Amir, Brandon M. Stewart, Amir Feder
cs.AI
Resumo
Métodos de Computação no Tempo de Inferência (ITC), como Best-of-N e Tree-of-Thoughts, visam produzir candidatos de saída que sejam de alta qualidade e diversificados, mas o uso de amostragem com alta temperatura frequentemente não consegue alcançar uma diversidade de saída significativa. Além disso, os métodos de ITC existentes oferecem controle limitado sobre como realizar o raciocínio, o que, por sua vez, limita sua explicabilidade. Apresentamos o STATe-of-Thoughts (STATe), um método de ITC interpretável que pesquisa padrões de raciocínio de alto nível. O STATe substitui a amostragem estocástica por intervenções textuais discretas e interpretáveis: um controlador seleciona ações que codificam escolhas de raciocínio de alto nível, um gerador produz etapas de raciocínio condicionadas a essas escolhas, e um avaliador pontua os candidatos para orientar a pesquisa. Esta abordagem estruturada oferece três vantagens principais. Primeiro, as intervenções textuais guiadas por ações produzem maior diversidade de respostas do que a amostragem baseada em temperatura. Segundo, num estudo de caso sobre geração de argumentos, as sequências de ações explícitas do STATe capturam características interpretáveis que são altamente preditivas da qualidade da saída. Terceiro, estimar a associação entre o desempenho e as escolhas de ação permite-nos identificar regiões promissoras mas ainda não exploradas do espaço de ação e direcionar a geração diretamente para elas. Juntos, estes resultados estabelecem o STATe como uma estrutura prática para gerar texto de alta qualidade, diversificado e interpretável. A nossa estrutura está disponível em https://github.com/zbambergerNLP/state-of-thoughts.
English
Inference-Time-Compute (ITC) methods like Best-of-N and Tree-of-Thoughts are meant to produce output candidates that are both high-quality and diverse, but their use of high-temperature sampling often fails to achieve meaningful output diversity. Moreover, existing ITC methods offer limited control over how to perform reasoning, which in turn limits their explainability. We present STATe-of-Thoughts (STATe), an interpretable ITC method that searches over high-level reasoning patterns. STATe replaces stochastic sampling with discrete and interpretable textual interventions: a controller selects actions encoding high-level reasoning choices, a generator produces reasoning steps conditioned on those choices, and an evaluator scores candidates to guide search. This structured approach yields three main advantages. First, action-guided textual interventions produce greater response diversity than temperature-based sampling. Second, in a case study on argument generation, STATe's explicit action sequences capture interpretable features that are highly predictive of output quality. Third, estimating the association between performance and action choices allows us to identify promising yet unexplored regions of the action space and steer generation directly toward them. Together, these results establish STATe as a practical framework for generating high-quality, diverse, and interpretable text. Our framework is available at https://github.com/zbambergerNLP/state-of-thoughts.