EasySteer : Un Cadre Unifié pour le Pilotage Hautement Performant et Extensible des LLM

EasySteer: A Unified Framework for High-Performance and Extensible LLM Steering

September 29, 2025

papers.authors: Haolei Xu, Xinyu Mei, Yuchen Yan, Rui Zhou, Wenqi Zhang, Weiming Lu, Yueting Zhuang, Yongliang Shen

cs.AI

papers.abstract

Le pilotage des grands modèles de langage (LLM) est apparu comme un paradigme prometteur pour contrôler le comportement des modèles au moment de l'inférence grâce à la manipulation ciblée des états cachés, offrant une alternative légère à l'apprentissage coûteux. Cependant, les cadres de pilotage existants souffrent de limitations critiques : inefficacité computationnelle, extensibilité limitée et fonctionnalités restreintes qui entravent à la fois les progrès de la recherche et le déploiement pratique. Nous présentons EasySteer, un cadre unifié pour un pilotage performant et extensible des LLM, construit sur vLLM. Notre système propose une architecture modulaire avec des interfaces interchangeables pour les méthodes basées sur l'analyse et sur l'apprentissage, un contrôle fin des paramètres, des vecteurs de pilotage précalculés pour huit domaines d'application, et un système de démonstration interactif. Grâce à une intégration approfondie avec le moteur d'inférence optimisé de vLLM, EasySteer atteint une accélération de 5,5 à 11,4 fois par rapport aux cadres existants. Des expériences approfondies démontrent son efficacité dans la réduction de la surréflexion, la diminution des hallucinations et d'autres applications clés. EasySteer transforme le pilotage d'une technique de recherche en une capacité prête pour la production, établissant une infrastructure essentielle pour des modèles de langage déployables et contrôlables.

English

Large language model (LLM) steering has emerged as a promising paradigm for controlling model behavior at inference time through targeted manipulation of hidden states, offering a lightweight alternative to expensive retraining. However, existing steering frameworks suffer from critical limitations: computational inefficiency, limited extensibility, and restricted functionality that hinder both research progress and practical deployment. We present EasySteer, a unified framework for high-performance, extensible LLM steering built on vLLM. Our system features modular architecture with pluggable interfaces for both analysis-based and learning-based methods, fine-grained parameter control, pre-computed steering vectors for eight application domains, and an interactive demonstration system. Through deep integration with vLLM's optimized inference engine, EasySteer achieves 5.5-11.4times speedup over existing frameworks. Extensive experiments demonstrate its effectiveness in overthinking mitigation, hallucination reduction, and other key applications. EasySteer transforms steering from research technique to production-ready capability, establishing critical infrastructure for deployable, controllable language models.