EasySteer: 고성능 및 확장 가능한 LLM 조종을 위한 통합 프레임워크

초록

대형 언어 모델(LLM) 스티어링은 은닉 상태의 표적 조작을 통해 추론 시점에서 모델 행동을 제어하는 유망한 패러다임으로 부상하며, 비용이 많이 드는 재학습에 대한 경량화된 대안을 제공합니다. 그러나 기존 스티어링 프레임워크는 계산 비효율성, 제한된 확장성, 그리고 연구 진행과 실제 배포를 방해하는 제한된 기능성이라는 중대한 한계를 가지고 있습니다. 우리는 vLLM 기반의 고성능 및 확장 가능한 LLM 스티어링을 위한 통합 프레임워크인 EasySteer를 제시합니다. 우리의 시스템은 분석 기반 및 학습 기반 방법을 위한 플러그형 인터페이스, 세밀한 매개변수 제어, 8개 응용 분야에 대한 사전 계산된 스티어링 벡터, 그리고 인터랙티브 데모 시스템을 특징으로 하는 모듈식 아키텍처를 갖추고 있습니다. vLLM의 최적화된 추론 엔진과의 깊은 통합을 통해 EasySteer는 기존 프레임워크 대비 5.5-11.4배의 속도 향상을 달성했습니다. 광범위한 실험을 통해 과도 사고 완화, 환각 감소 및 기타 주요 응용 분야에서의 효과를 입증했습니다. EasySteer는 스티어링을 연구 기술에서 프로덕션 준비가 된 역량으로 전환하여 배포 가능하고 제어 가능한 언어 모델을 위한 중요한 인프라를 구축합니다.

English

Large language model (LLM) steering has emerged as a promising paradigm for controlling model behavior at inference time through targeted manipulation of hidden states, offering a lightweight alternative to expensive retraining. However, existing steering frameworks suffer from critical limitations: computational inefficiency, limited extensibility, and restricted functionality that hinder both research progress and practical deployment. We present EasySteer, a unified framework for high-performance, extensible LLM steering built on vLLM. Our system features modular architecture with pluggable interfaces for both analysis-based and learning-based methods, fine-grained parameter control, pre-computed steering vectors for eight application domains, and an interactive demonstration system. Through deep integration with vLLM's optimized inference engine, EasySteer achieves 5.5-11.4times speedup over existing frameworks. Extensive experiments demonstrate its effectiveness in overthinking mitigation, hallucination reduction, and other key applications. EasySteer transforms steering from research technique to production-ready capability, establishing critical infrastructure for deployable, controllable language models.

EasySteer: 고성능 및 확장 가능한 LLM 조종을 위한 통합 프레임워크

EasySteer: A Unified Framework for High-Performance and Extensible LLM Steering

초록

Support