디코딩 수준 타부: LLM 견고성 진단을 위한 스트레스 테스트

초록

대규모 언어 모델 평가는 일반적으로 정상 조건에서의 성능에 초점을 맞추며, 이는 모델이 좁고 최적화된 생성 통로를 안정적으로 걷는 듯한 능력에 대한 착각을 만들어낸다. 그러나 실제 배포 환경에서는 복잡한 시스템 프롬프트, 안전 가드레일, 구조적 제약이 지속적으로 모델을 이러한 정상 경로에서 벗어나게 하여, 벤치마크 점수와 배포 성능 간의 괴리를 유발한다. 이러한 문제를 해결하기 위해 우리는 런타임에서 로짓 공간에 직접 개입하여 모델을 정상 경로에서 강제로 이탈시키는 제로 프롬프트 진단 스트레스 테스트인 Decoding-Level Taboo를 도입한다. 단어 경계에서 주요 후보 토큰을 동적으로 마스킹함으로써, Taboo는 기계의 우회 표현을 강제한다. 여러 오픈 가중치 모델 제품군에 걸쳐 Taboo를 평가한 결과, 오프패스 강건성은 파라미터 규모와 사후 훈련 명령어 정렬에 의해 크게 영향받으며, 강건성은 일반적으로 모델 크기와 정렬 수준이 증가함에 따라 개선되는 것으로 나타났다. 본 논문에서 제시된 결과를 넘어, Taboo는 다양한 합성 데이터셋 생성, 런타임 안전 가드레일 스트레스 테스트, 실제 배포 전 모델 신뢰성 감사를 위한 새로운 프리미티브를 제공한다.

English

Large language model evaluations typically focus on performance under nominal conditions, creating an illusion of capability where models comfortably walk a narrow, highly optimized generation corridor. In real-world deployments, however, complex system prompts, safety guardrails, and structural constraints continuously force models off this nominal path, driving a divergence between benchmark scores and deployment performance. To address this issue, we introduce Decoding-Level Taboo, a zero-prompt diagnostic stress test that intervenes directly in logit space at runtime, forcing models out of their nominal paths. By dynamically masking primary candidate tokens at word boundaries, Taboo forces machine circumlocution. Evaluating Taboo across several open-weight model families reveals that off-path robustness is heavily influenced by both parameter scale and post-training instruction alignment, with robustness generally improving with model size and alignment. Beyond the results presented in this paper, Taboo provides a novel primitive for generating diverse synthetic datasets, stress-testing runtime safety guardrails, and auditing model reliability prior to real-world deployment.