ThinkRL-Edit: Denken in Reinforcement Learning voor Redeneringsgericht Beeldbewerken

ThinkRL-Edit: Thinking in Reinforcement Learning for Reasoning-Centric Image Editing

January 6, 2026

Auteurs: Hengjia Li, Liming Jiang, Qing Yan, Yizhi Song, Hao Kang, Zichuan Liu, Xin Lu, Boxi Wu, Deng Cai

cs.AI

Samenvatting

Instructiegestuurd beeldbewerken met geünificeerde multimodale generatieve modellen heeft een snelle vooruitgang geboekt, maar het onderliggende visuele redeneervermogen blijft beperkt, wat leidt tot suboptimale prestaties bij redeneringsgerichte bewerkingen. Reinforcement learning (RL) is onderzocht voor het verbeteren van de kwaliteit van beeldbewerking, maar kampt met drie belangrijke uitdagingen: (1) beperkte redeneerverkenning die gevangen zit in denoiseringsstochasticiteit, (2) bevooroordeelde beloningsfusie, en (3) instabiele op VLM gebaseerde instructiebeloningen. In dit werk stellen we ThinkRL-Edit voor, een redeneringsgericht RL-raamwerk dat visueel redeneren ontkoppelt van beeld synthese en de redeneerverkenning uitbreidt voorbij denoisering. Hiertoe introduceren we Chain-of-Thought (CoT)-gebaseerde redeneerbemonstering met plannings- en reflectiestadia vóór generatie in online bemonstering, waardoor het model wordt gedwongen meerdere semantische hypothesen te verkennen en hun plausibiliteit te valideren voordat het zich vastlegt op een visueel resultaat. Om de tekortkomingen van gewogen aggregatie te vermijden, stellen we een onbevooroordeelde ketenvoorkeursgroeperingsstrategie voor over meerdere beloningsdimensies. Veranderen we intervalgebaseerde VLM-scores door een binaire checklist, wat meer precieze, minder variabele en interpreteerbare beloningen oplevert voor complex redeneren. Experimenten tonen aan dat onze methode significant beter presteert dan eerder werk bij redeneringsgerichte beeldbewerking, waarbij het instructiegetrouwe, visueel coherente en semantisch onderbouwde bewerkingen produceert.

English

Instruction-driven image editing with unified multimodal generative models has advanced rapidly, yet their underlying visual reasoning remains limited, leading to suboptimal performance on reasoning-centric edits. Reinforcement learning (RL) has been investigated for improving the quality of image editing, but it faces three key challenges: (1) limited reasoning exploration confined to denoising stochasticity, (2) biased reward fusion, and (3) unstable VLM-based instruction rewards. In this work, we propose ThinkRL-Edit, a reasoning-centric RL framework that decouples visual reasoning from image synthesis and expands reasoning exploration beyond denoising. To the end, we introduce Chain-of-Thought (CoT)-based reasoning sampling with planning and reflection stages prior to generation in online sampling, compelling the model to explore multiple semantic hypotheses and validate their plausibility before committing to a visual outcome. To avoid the failures of weighted aggregation, we propose an unbiased chain preference grouping strategy across multiple reward dimensions. Moreover, we replace interval-based VLM scores with a binary checklist, yielding more precise, lower-variance, and interpretable rewards for complex reasoning. Experiments show our method significantly outperforms prior work on reasoning-centric image editing, producing instruction-faithful, visually coherent, and semantically grounded edits.