ThinkRL-Edit : Penser en Apprentissage par Renforcement pour l'Édition d'Image Centrée sur le Raisonnement
ThinkRL-Edit: Thinking in Reinforcement Learning for Reasoning-Centric Image Editing
January 6, 2026
papers.authors: Hengjia Li, Liming Jiang, Qing Yan, Yizhi Song, Hao Kang, Zichuan Liu, Xin Lu, Boxi Wu, Deng Cai
cs.AI
papers.abstract
L'édition d'images pilotée par instructions avec des modèles génératifs multimodaux unifiés a progressé rapidement, mais leur raisonnement visuel sous-jacent reste limité, conduisant à des performances sous-optimales pour les modifications centrées sur le raisonnement. L'apprentissage par renforcement (RL) a été étudié pour améliorer la qualité de l'édition d'images, mais il se heurte à trois défis majeurs : (1) une exploration raisonnée limitée, confinée à la stochasticité du débruitage, (2) une fusion biaisée des récompenses, et (3) l'instabilité des récompenses basées sur des modèles de langage visuel (VLM) et des instructions. Dans ce travail, nous proposons ThinkRL-Edit, un cadre RL axé sur le raisonnement qui découple le raisonnement visuel de la synthèse d'images et élargit l'exploration raisonnée au-delà du débruitage. Pour ce faire, nous introduisons un échantillonnage raisonné basé sur la Chaîne de Raisonnement (CoT) avec des étapes de planification et de réflexion avant la génération lors de l'échantillonnage en ligne, contraignant le modèle à explorer plusieurs hypothèses sémantiques et à valider leur plausibilité avant de s'engager sur un résultat visuel. Pour éviter les écueils de l'agrégation pondérée, nous proposons une stratégie de regroupement de préférences en chaîne non biaisée couvrant de multiples dimensions de récompense. De plus, nous remplaçons les scores VLM basés sur des intervalles par une liste de contrôle binaire, produisant des récompenses plus précises, à variance réduite et interprétables pour le raisonnement complexe. Les expériences montrent que notre méthode surpasse significativement les travaux antérieurs en édition d'images centrée sur le raisonnement, produisant des modifications fidèles aux instructions, visuellement cohérentes et sémantiquement fondées.
English
Instruction-driven image editing with unified multimodal generative models has advanced rapidly, yet their underlying visual reasoning remains limited, leading to suboptimal performance on reasoning-centric edits. Reinforcement learning (RL) has been investigated for improving the quality of image editing, but it faces three key challenges: (1) limited reasoning exploration confined to denoising stochasticity, (2) biased reward fusion, and (3) unstable VLM-based instruction rewards. In this work, we propose ThinkRL-Edit, a reasoning-centric RL framework that decouples visual reasoning from image synthesis and expands reasoning exploration beyond denoising. To the end, we introduce Chain-of-Thought (CoT)-based reasoning sampling with planning and reflection stages prior to generation in online sampling, compelling the model to explore multiple semantic hypotheses and validate their plausibility before committing to a visual outcome. To avoid the failures of weighted aggregation, we propose an unbiased chain preference grouping strategy across multiple reward dimensions. Moreover, we replace interval-based VLM scores with a binary checklist, yielding more precise, lower-variance, and interpretable rewards for complex reasoning. Experiments show our method significantly outperforms prior work on reasoning-centric image editing, producing instruction-faithful, visually coherent, and semantically grounded edits.