ChronoLens:時間軸・言語間・言語レベルにわたる言語変化の測定
ChronoLens: Measuring Language Change Across Time, Languages, and Linguistic Levels
August 4, 2026
著者: Gagan Bhatia, Julian Schlenker, Simone Paolo Ponzetto, Steffen Eger
cs.AI
要旨
歴史的言語変化は形態論、統語論、意味論、語用論に影響を及ぼすが、計算論的研究は通常これらのレベルを互換性のない表現で検証するため、言語間でそれらが共に変化するかどうかを判定できない。我々は、変化の規模と方向が単一の分析空間内で言語レベル、言語、歴史的時期の間でどのように異なるかを問うことで、この問題に対処する。我々は、凍結された多言語言語モデル、特徴整列型クロスコーダー、事後的な言語学的介入を組み合わせたフレームワークであるChronoLensを導入し、1803年から2026年にわたる五つの議会伝統に由来する4498万件の文書、約172億トークンに適用する。得られたスパース表現は、密埋め込みやプールされたスパースオートエンコーダーよりも言語統計とかなり強く一致し(ρ=0.72 対 0.29 および 0.28)、形態論、統語論、意味論、語用論は一般に言語内で同等の規模で変化する一方、言語によって変化の時期、程度、方向が著しく異なることを明らかにする。これらの発見は、歴史的言語変化が構造化された多次元プロセスであることを示している。すなわち、同様の規模は異なる軌跡を隠し得るため、意味のある言語間比較には距離と方向の両方の測定が必要である。
English
Historical language change affects morphology, syntax, semantics, and pragmatics, yet computational studies typically examine these levels with incompatible representations and therefore cannot determine whether they evolve together across languages. We address this problem by asking how the magnitude and direction of change vary across linguistic levels, languages, and historical periods within a single analytical space. We introduce ChronoLens, a framework that combines frozen multilingual language models, feature-aligned crosscoders, and post-hoc linguistic interventions, and apply it to 44.98 million documents and approximately 17.2 billion tokens from five parliamentary traditions spanning 1803--2026. The resulting sparse representations agree substantially more strongly with linguistic statistics than dense embeddings or a pooled sparse autoencoder (ρ=0.72 versus 0.29 and 0.28), and reveal that morphology, syntax, semantics, and pragmatics generally change by comparable amounts within a language, while languages differ markedly in when, how far, and in which direction they change. These findings show that historical language change is a structured, multidimensional process: similar magnitudes can conceal different trajectories, and meaningful cross-linguistic comparison requires measuring both distance and direction.