Revelación de Neuronas y Expertos Específicos de Instrucciones: Un Marco Analítico para las Capacidades de Seguimiento de Instrucciones en Modelos de Lenguaje de Gran Escala

Unveiling Instruction-Specific Neurons & Experts: An Analytical Framework for LLM's Instruction-Following Capabilities

May 27, 2025

Autores: Junyan Zhang, Yubo Gao, Yibo Yan, Jungang Li, Zhaorui Hou, Sicheng Tao, Shuliang Liu, Song Dai, Yonghua Hei, Junzhuo Li, Xuming Hu

cs.AI

Resumen

El ajuste fino de los Modelos de Lenguaje de Gran Escala (LLMs, por sus siglas en inglés) ha avanzado significativamente sus capacidades de seguimiento de instrucciones, aunque los mecanismos computacionales subyacentes que impulsan estas mejoras siguen siendo poco comprendidos. Este estudio examina sistemáticamente cómo el ajuste fino reconfigura los cálculos de los LLMs mediante el aislamiento y análisis de componentes dispersos específicos de instrucciones, es decir, neuronas en modelos densos y tanto neuronas como expertos en arquitecturas de Mezcla de Expertos (MoE). En particular, presentamos HexaInst, un conjunto de datos de instrucciones cuidadosamente seleccionado y equilibrado que abarca seis categorías distintas, y proponemos SPARCOM, un marco analítico novedoso que comprende tres contribuciones clave: (1) un método para identificar estos componentes dispersos, (2) una evaluación de su generalidad funcional y unicidad, y (3) una comparación sistemática de sus alteraciones. A través de experimentos, demostramos la generalidad funcional, la unicidad y el papel crítico de estos componentes en la ejecución de instrucciones. Al dilucidar la relación entre las adaptaciones inducidas por el ajuste fino y los sustratos computacionales dispersos, este trabajo proporciona una comprensión más profunda de cómo los LLMs internalizan el comportamiento de seguimiento de instrucciones para la comunidad de LLMs confiables.

English

The finetuning of Large Language Models (LLMs) has significantly advanced their instruction-following capabilities, yet the underlying computational mechanisms driving these improvements remain poorly understood. This study systematically examines how fine-tuning reconfigures LLM computations by isolating and analyzing instruction-specific sparse components, i.e., neurons in dense models and both neurons and experts in Mixture-of-Experts (MoE) architectures. In particular, we introduce HexaInst, a carefully curated and balanced instructional dataset spanning six distinct categories, and propose SPARCOM, a novel analytical framework comprising three key contributions: (1) a method for identifying these sparse components, (2) an evaluation of their functional generality and uniqueness, and (3) a systematic comparison of their alterations. Through experiments, we demonstrate functional generality, uniqueness, and the critical role of these components in instruction execution. By elucidating the relationship between fine-tuning-induced adaptations and sparse computational substrates, this work provides deeper insights into how LLMs internalize instruction-following behavior for the trustworthy LLM community.