PenseRL-Editar: Pensamento em Aprendizagem por Reforço para Edição de Imagens Centrada no Raciocínio
ThinkRL-Edit: Thinking in Reinforcement Learning for Reasoning-Centric Image Editing
January 6, 2026
Autores: Hengjia Li, Liming Jiang, Qing Yan, Yizhi Song, Hao Kang, Zichuan Liu, Xin Lu, Boxi Wu, Deng Cai
cs.AI
Resumo
A edição de imagens orientada por instruções com modelos generativos multimodais unificados avançou rapidamente, mas o seu raciocínio visual subjacente permanece limitado, levando a um desempenho abaixo do ideal em edições centradas no raciocínio. A aprendizagem por reforço (RL) tem sido investigada para melhorar a qualidade da edição de imagens, mas enfrenta três desafios principais: (1) exploração limitada do raciocínio confinada à estocasticidade da remoção de ruído, (2) fusão enviesada de recompensas e (3) recompensas de instrução baseadas em VLM instáveis. Neste trabalho, propomos o ThinkRL-Edit, um framework de RL centrado no raciocínio que desacopla o raciocínio visual da síntese de imagens e expande a exploração do raciocínio para além da remoção de ruído. Para tal, introduzimos uma amostragem de raciocínio baseada em Cadeia de Pensamento (CoT) com etapas de planeamento e reflexão antes da geração na amostragem *online*, obrigando o modelo a explorar múltiplas hipóteses semânticas e validar a sua plausibilidade antes de se comprometer com um resultado visual. Para evitar as falhas da agregação ponderada, propomos uma estratégia de agrupamento de preferências em cadeia não enviesada em múltiplas dimensões de recompensa. Além disso, substituímos as pontuações de VLM baseadas em intervalo por uma lista de verificação binária, produzindo recompensas mais precisas, de menor variância e interpretáveis para o raciocínio complexo. Experiências mostram que o nosso método supera significativamente trabalhos anteriores em edição de imagens centrada no raciocínio, produzindo edições fiéis à instrução, visualmente coerentes e semanticamente fundamentadas.
English
Instruction-driven image editing with unified multimodal generative models has advanced rapidly, yet their underlying visual reasoning remains limited, leading to suboptimal performance on reasoning-centric edits. Reinforcement learning (RL) has been investigated for improving the quality of image editing, but it faces three key challenges: (1) limited reasoning exploration confined to denoising stochasticity, (2) biased reward fusion, and (3) unstable VLM-based instruction rewards. In this work, we propose ThinkRL-Edit, a reasoning-centric RL framework that decouples visual reasoning from image synthesis and expands reasoning exploration beyond denoising. To the end, we introduce Chain-of-Thought (CoT)-based reasoning sampling with planning and reflection stages prior to generation in online sampling, compelling the model to explore multiple semantic hypotheses and validate their plausibility before committing to a visual outcome. To avoid the failures of weighted aggregation, we propose an unbiased chain preference grouping strategy across multiple reward dimensions. Moreover, we replace interval-based VLM scores with a binary checklist, yielding more precise, lower-variance, and interpretable rewards for complex reasoning. Experiments show our method significantly outperforms prior work on reasoning-centric image editing, producing instruction-faithful, visually coherent, and semantically grounded edits.