SAEdit: Токен-уровневое управление для непрерывного редактирования изображений с использованием разреженного автоэнкодера

SAEdit: Token-level control for continuous image editing via Sparse AutoEncoder

October 6, 2025

Авторы: Ronen Kamenetsky, Sara Dorfman, Daniel Garibi, Roni Paiss, Or Patashnik, Daniel Cohen-Or

cs.AI

Аннотация

Масштабные диффузионные модели для генерации изображений по тексту стали основой современного редактирования изображений, однако одни только текстовые запросы не обеспечивают достаточного контроля над процессом редактирования. Особенно желательными являются два свойства: разъединение (disentanglement), при котором изменение одного атрибута не приводит к непреднамеренному изменению других, и непрерывный контроль, позволяющий плавно регулировать силу редактирования. Мы представляем метод для разъединенного и непрерывного редактирования через манипуляции на уровне токенов в текстовых эмбеддингах. Редактирование осуществляется путем изменения эмбеддингов вдоль тщательно выбранных направлений, которые контролируют силу целевого атрибута. Для определения таких направлений мы используем Разреженный Автокодировщик (Sparse Autoencoder, SAE), чье разреженное латентное пространство выделяет семантически изолированные измерения. Наш метод работает непосредственно с текстовыми эмбеддингами, не изменяя процесс диффузии, что делает его независимым от модели и применимым к различным архитектурам синтеза изображений. Эксперименты показывают, что он обеспечивает интуитивное и эффективное управление с непрерывным контролем для различных атрибутов и областей.

English

Large-scale text-to-image diffusion models have become the backbone of modern image editing, yet text prompts alone do not offer adequate control over the editing process. Two properties are especially desirable: disentanglement, where changing one attribute does not unintentionally alter others, and continuous control, where the strength of an edit can be smoothly adjusted. We introduce a method for disentangled and continuous editing through token-level manipulation of text embeddings. The edits are applied by manipulating the embeddings along carefully chosen directions, which control the strength of the target attribute. To identify such directions, we employ a Sparse Autoencoder (SAE), whose sparse latent space exposes semantically isolated dimensions. Our method operates directly on text embeddings without modifying the diffusion process, making it model agnostic and broadly applicable to various image synthesis backbones. Experiments show that it enables intuitive and efficient manipulations with continuous control across diverse attributes and domains.