Enthüllung instruktionsspezifischer Neuronen und Experten: Ein analytischer Rahmen für die Befolgung von Anweisungen in großen Sprachmodellen

Unveiling Instruction-Specific Neurons & Experts: An Analytical Framework for LLM's Instruction-Following Capabilities

May 27, 2025

Autoren: Junyan Zhang, Yubo Gao, Yibo Yan, Jungang Li, Zhaorui Hou, Sicheng Tao, Shuliang Liu, Song Dai, Yonghua Hei, Junzhuo Li, Xuming Hu

cs.AI

Zusammenfassung

Die Feinabstimmung von Large Language Models (LLMs) hat deren Fähigkeit, Anweisungen zu befolgen, erheblich verbessert, doch die zugrunde liegenden rechnerischen Mechanismen, die diese Fortschritte vorantreiben, bleiben weitgehend unverstanden. Diese Studie untersucht systematisch, wie die Feinabstimmung die Berechnungen von LLMs neu konfiguriert, indem sie anweisungsspezifische spärliche Komponenten isoliert und analysiert, d. h. Neuronen in dichten Modellen sowie sowohl Neuronen als auch Experten in Mixture-of-Experts (MoE)-Architekturen. Insbesondere führen wir HexaInst ein, ein sorgfältig kuratiertes und ausgewogenes Anweisungsdatenset, das sechs verschiedene Kategorien umfasst, und schlagen SPARCOM vor, einen neuartigen analytischen Rahmen, der drei wesentliche Beiträge umfasst: (1) eine Methode zur Identifizierung dieser spärlichen Komponenten, (2) eine Bewertung ihrer funktionalen Allgemeinheit und Einzigartigkeit sowie (3) einen systematischen Vergleich ihrer Veränderungen. Durch Experimente demonstrieren wir die funktionale Allgemeinheit, Einzigartigkeit und die entscheidende Rolle dieser Komponenten bei der Ausführung von Anweisungen. Indem wir die Beziehung zwischen feinabstimmungsinduzierten Anpassungen und spärlichen rechnerischen Substraten aufklären, bietet diese Arbeit tiefere Einblicke in die Art und Weise, wie LLMs das Verhalten der Anweisungsbefolgung internalisieren, und trägt zur vertrauenswürdigen LLM-Community bei.

English

The finetuning of Large Language Models (LLMs) has significantly advanced their instruction-following capabilities, yet the underlying computational mechanisms driving these improvements remain poorly understood. This study systematically examines how fine-tuning reconfigures LLM computations by isolating and analyzing instruction-specific sparse components, i.e., neurons in dense models and both neurons and experts in Mixture-of-Experts (MoE) architectures. In particular, we introduce HexaInst, a carefully curated and balanced instructional dataset spanning six distinct categories, and propose SPARCOM, a novel analytical framework comprising three key contributions: (1) a method for identifying these sparse components, (2) an evaluation of their functional generality and uniqueness, and (3) a systematic comparison of their alterations. Through experiments, we demonstrate functional generality, uniqueness, and the critical role of these components in instruction execution. By elucidating the relationship between fine-tuning-induced adaptations and sparse computational substrates, this work provides deeper insights into how LLMs internalize instruction-following behavior for the trustworthy LLM community.