UniSteer: Tekstgestuurde Flow Matching in de Activatieruimte voor Veelzijdige LLM-Sturing

Samenvatting

Op activering gebaseerde controle stuurt grote taalmodellen (LLM's) door tijdens inferentie in te grijpen op hun interne representaties, en is uitgegroeid tot een effectief paradigma voor het sturen van gedragingen zoals persona en stijl. Bestaande methoden vertrouwen echter vaak op vaste stuurrichtingen of taakspecifieke interventiemodules, waardoor ze moeilijk aanpasbaar zijn aan fijnmazige concepten en compositionele beperkingen. Wij stellen UniSteer voor, een tekstgestuurd activatiestromingsmatchingsmodel dat een conditionele verdeling over residuele-stroomactivaties leert op basis van natuurlijke-taalaanduidingen. In plaats van een aparte interventie voor elk doelgedrag te fitten, leert UniSteer een universeel conditioneel snelheidsveld in de activatieruimte. Tijdens inferentie voert UniSteer stromingsinversie uit door een bronactivatie gedeeltelijk naar een latente toestand te transporteren en deze onder een beoogde tekstuele conditie te regenereren alvorens deze terug te injecteren in het bevroren LLM. Hetzelfde conditionele model ondersteunt classificatie in de activatieruimte door het tekstuele label met de laagste reconstructie-energie te selecteren. Experimenten op drie doel-LLM's tonen aan dat UniSteer een uniforme interface biedt voor gedragscontrole, waarheidsgetrouw sturen, het sturen van fijnmazige concepten, het volgen van instructies met meerdere beperkingen en classificatie in de activatieruimte.

English

Activation-based control steers large language models (LLMs) by intervening on their internal representations during inference, and has emerged as an effective paradigm for controlling behaviors such as persona and style. However, existing methods often rely on fixed steering directions or task-specific intervention modules, making them difficult to adapt to fine-grained concepts and compositional constraints. We propose UniSteer, a text-guided activation flow matching model that learns a conditional distribution over residual-stream activations from natural-language conditions. Instead of fitting a separate intervention for each target behavior, UniSteer learns a universal conditional velocity field in activation space. At inference time, UniSteer performs flow inversion by partially transporting a source activation toward a latent state and regenerating it under a target textual condition before injecting it back into the frozen LLM. The same conditional model supports activation-space classification by selecting the textual label with the lowest reconstruction energy. Experiments on three target LLMs show that UniSteer provides a unified interface across behavioral control, truthfulness steering, fine-grained concept steering, multi-constraint instruction following, and activation-space classification.