Selektive Steuerung: Normerhaltende Kontrolle durch diskriminative Schichtauswahl

Selective Steering: Norm-Preserving Control Through Discriminative Layer Selection

January 27, 2026

papers.authors: Quy-Anh Dang, Chris Ngo

cs.AI

papers.abstract

Trotz erheblicher Fortschritte im Alignment bleiben große Sprachmodelle (LLMs) anfällig für adversarielle Angriffe, die schädliches Verhalten hervorrufen. Aktivierungs-Steering-Techniken bieten einen vielversprechenden Interventionsansatz zur Inferenzzeit, bestehende Methoden weisen jedoch kritische Einschränkungen auf: Aktivierungsaddition erfordert eine sorgfältige Koeffizientenabstimmung und ist empfindlich gegenüber layerspezifischen Normvariationen, während directionale Ablation nur binäre Kontrolle bietet. Jüngste Arbeiten zum Angular Steering ermöglichen eine kontinuierliche Steuerung durch Rotation in einem 2D-Unterraum, doch deren praktische Implementierung verletzt die Normerhaltung, was zu Distributionsverschiebungen und Generierungskollaps führt, insbesondere bei Modellen unter 7B Parametern. Wir schlagen Selective Steering vor, das diese Einschränkungen durch zwei Schlüsselinnovationen adressiert: (1) eine mathematisch rigorose, normerhaltende Rotationsformulierung, die die Integrität der Aktivierungsverteilung bewahrt, und (2) eine diskriminative Layer-Auswahl, die Steering nur dort anwendet, wo Feature-Repräsentationen eine gegenläufige Klassenausrichtung aufweisen. Experimente mit neun Modellen zeigen, dass Selective Steering eine 5,5-fach höhere Angriffserfolgsrate als bisherige Methoden erzielt, bei gleichzeitig null Perplexity-Verletzungen und etwa 100 % Fähigkeitserhalt auf Standard-Benchmarks. Unser Ansatz bietet einen prinzipienbasierten, effizienten Rahmen für kontrollierbare und stabile Verhaltensmodifikation von LLMs. Code: https://github.com/knoveleng/steering

English

Despite significant progress in alignment, large language models (LLMs) remain vulnerable to adversarial attacks that elicit harmful behaviors. Activation steering techniques offer a promising inference-time intervention approach, but existing methods suffer from critical limitations: activation addition requires careful coefficient tuning and is sensitive to layer-specific norm variations, while directional ablation provides only binary control. Recent work on Angular Steering introduces continuous control via rotation in a 2D subspace, but its practical implementation violates norm preservation, causing distribution shift and generation collapse, particularly in models below 7B parameters. We propose Selective Steering, which addresses these limitations through two key innovations: (1) a mathematically rigorous norm-preserving rotation formulation that maintains activation distribution integrity, and (2) discriminative layer selection that applies steering only where feature representations exhibit opposite-signed class alignment. Experiments across nine models demonstrate that Selective Steering achieves 5.5x higher attack success rates than prior methods while maintaining zero perplexity violations and approximately 100\% capability retention on standard benchmarks. Our approach provides a principled, efficient framework for controllable and stable LLM behavior modification. Code: https://github.com/knoveleng/steering