注入・整合・回復：検索不要の文書知識内在化のための段階的事後訓練

要旨

大規模言語モデルは、推論時にソース文書を検索しない場合、限定された文書集合に関する質問に答えることにしばしば失敗する。本研究では、この設定を文書知識の内面化、すなわち固定コーパスを検索不要の質問応答に利用可能なパラメトリック知識へ変換することとして扱う。本稿では、構造化された文書知識の注入、QA行動の整合、汎用能力の回復を分離する3段階のポストトレーニングフレームワークであるIAR（Inject、Align、Recover）を提案する。従来の継続的事前学習とは異なり、Injectはソース文書を継続生成、書き換え、命令条件付き再構成の各目的関数に変換する。次にAlignは、注入済みモデルを回答のみのQA教師信号で適応させ、Recoverはドメイン適応済みモデルと基本指示追従モデルをマージして汎用能力を回復する。Common Corpus（CC）およびCCI、さらにLlama、Phi、Qwen、SmolLMの各モデルファミリーにわたり、IARは検索不要の文書内面化におけるドメイン特化とドメイン汎用のフロンティアを改善する。主な比較では、IARは8つのデータセット・モデル設定のうち7つで、報告された4指標すべてにおいてVanilla SFTを上回り、ドメインQA精度の平均3.6パーセントポイント、IFEval、MMLU、MSBenchにわたる平均汎用性能の12.1パーセントポイントの向上を達成した。拡張されたCCベースラインでは、LoRAとFAPMが個別の汎用指標で勝る場合があるが、ドメイン内面化において先頭的またはそれに近い水準に達する手法の中では、IARは最も強い汎用プロファイルの一つを維持する。

English

Large language models often fail to answer questions about a bounded document collection when the source documents are not retrieved at inference time. We study this setting as document knowledge internalization: converting a fixed corpus into usable parametric knowledge for retrieval-free question answering. We propose IAR (Inject, Align, and Recover), a three-stage post-training framework that separates structured document knowledge injection, QA behavior alignment, and general ability recovery. Unlike conventional continued pretraining, Inject converts source documents into continuation, rewrite, and instruction-conditioned reconstruction objectives. Align then adapts the injected model with answer-only QA supervision, while Recover merges the domain-adapted model with the base instruction model to recover general capabilities. Across Common Corpus (CC) and CCI, and across Llama, Phi, Qwen, and SmolLM model families, IAR improves the domain-primary domain-general frontier for retrieval-free document internalization. In the main comparison, IAR improves over Vanilla SFT on all four reported metrics in 7 of 8 dataset-model settings, with average gains of 3.6 percentage points in domain QA accuracy and 12.1 percentage points in mean general performance across IFEval, MMLU, and MSBench. Extended CC baselines show that LoRA and FAPM can win individual general metrics, but among methods that also reach leading or near-leading domain internalization, IAR retains one of the strongest general profiles.