더 똑똑하게 훈련하라, 더 열심히가 아니라: 능동 학습에서의 스위칭 신호 기반 훈련

초록

훈련 전략, 즉 처음부터 재훈련할지 아니면 이전 체크포인트에서 미세 조정할지는 능동 학습에서 간과된 결정 변수이다. 우리는 이 선택이 활용 가능한 구조를 가짐을 보인다: 재훈련은 각 배치가 레이블 분포를 상당히 재형성할 수 있는 초기 라운드에서 가장 유용한 반면, 미세 조정은 모델 궤적이 안정화되면 더 안전해진다. 우리는 온라인 안정화 신호를 모니터링하고 지속적인 안정화 후 재훈련에서 미세 조정으로 전환하는 적응형 훈련 일정인 HybridAL을 제안한다. 두 가지 상호 보완적인 신호, 즉 스펙트럼 지수 변화 Δα (가중치 기반)와 정확도 변화 ΔAcc (검증 기반)는 시간-캘리브레이션 트레이드오프에서 서로 다른 지점을 포괄한다. 세 가지 인코더 백본과 여섯 가지 텍스트 분류 작업(각각 다섯 개 시드)에 걸쳐, HybridAL은 최종 매크로-F1을 0.010 마진에서 재훈련 및 미세 조정에 비해 비열등하게 유지하고, 재훈련 시간의 최대 49%를 절약하며, 음의 로그 우도(NLL)로 측정된 재훈련의 캘리브레이션 이점의 상당 부분을 회복한다. 사전에 정한 라운드에서 전환하는 일정과 비교할 때, HybridAL은 적당한 추가 비용으로 더 낮은 NLL을 얻으며, 이는 궤적 의존적 전환이 고정된 조기 전환보다 더 강력한 시간-캘리브레이션 트레이드오프를 제공함을 보여준다.

English

Training strategy, namely whether to retrain from scratch or fine-tune from the previous checkpoint, is an overlooked decision variable in active learning. We show that this choice has exploitable structure: retraining is most useful in early rounds, when each batch can substantially reshape the labeled distribution, while fine-tuning becomes safer once the model trajectory stabilizes. We propose HybridAL, an adaptive training schedule that monitors an online stabilization signal and switches from retraining to fine-tuning after sustained stabilization. Two complementary signals, spectral exponent change Δα (weight-based) and accuracy change ΔAcc (validation-based), span different points on the time-calibration trade-off. Across three encoder backbones and six text-classification tasks (five seeds each), HybridAL keeps endpoint macro-F1 non-inferior to retraining and fine-tuning at a 0.010 margin, saves up to 49% of retraining time, and recovers a substantial fraction of retraining's calibration advantage as measured by negative log-likelihood (NLL). Compared with schedules that switch at a pre-committed round, HybridAL obtains lower NLL at moderate additional cost, showing that trajectory-dependent switching provides a stronger time-calibration trade-off than fixed early switching.