Warum ist es bisher schwierig geblieben, die Vorhersage der nachgelagerten Fähigkeiten von AI-Modellen der Spitzenklasse mit Skalierung zu erreichen?

Why Has Predicting Downstream Capabilities of Frontier AI Models with Scale Remained Elusive?

June 6, 2024

Autoren: Rylan Schaeffer, Hailey Schoelkopf, Brando Miranda, Gabriel Mukobi, Varun Madan, Adam Ibrahim, Herbie Bradley, Stella Biderman, Sanmi Koyejo

cs.AI

Zusammenfassung

Ein vorhersehbares Verhalten beim Skalieren fortschrittlicher KI-Systeme ist eine äußerst wünschenswerte Eigenschaft. Obwohl eine umfangreiche Literatur darüber besteht, wie sich die Leistung beim Vorabtraining skaliert, ist die Literatur darüber, wie bestimmte nachgelagerte Fähigkeiten skaliert werden, deutlich unklarer. In dieser Arbeit treten wir einen Schritt zurück und fragen: Warum ist es so schwierig, spezifische nachgelagerte Fähigkeiten mit Skala vorherzusagen? Obwohl sicherlich viele Faktoren dafür verantwortlich sind, identifizieren wir einen neuen Faktor, der es herausfordernd macht, das Skalierungsverhalten auf weit verbreiteten Multiple-Choice-Frage-Antwort-Benchmarks zu modellieren. Unter Verwendung von fünf Modellfamilien und zwölf etablierten Multiple-Choice-Benchmarks zeigen wir, dass die nachgelagerte Leistung über negative Log-Likelihoods mittels einer Sequenz von Transformationen berechnet wird, die die statistische Beziehung zwischen Leistung und Skala allmählich verschlechtern. Anschließend enthüllen wir den Mechanismus, der diese Verschlechterung verursacht: Nachgelagerte Metriken erfordern den Vergleich der richtigen Wahl mit einer kleinen Anzahl spezifischer falscher Entscheidungen. Das bedeutet, dass die genaue Vorhersage nachgelagerter Fähigkeiten nicht nur erfordert, wie sich die Wahrscheinlichkeitsmasse auf die richtige Wahl mit der Skala konzentriert, sondern auch, wie sich die Wahrscheinlichkeitsmasse auf spezifische falsche Entscheidungen mit der Skala verändert. Wir untersuchen empirisch, wie sich die Wahrscheinlichkeitsmasse auf die richtige Wahl mit der Wahrscheinlichkeitsmasse auf falsche Entscheidungen mit zunehmender Rechenleistung kovariiert, was darauf hindeutet, dass Skalierungsgesetze für falsche Entscheidungen erreichbar sein könnten. Unsere Arbeit erklärt auch, warum Skalierungsgesetze für Vorabtraining allgemein als vorhersehbarer angesehen werden als nachgelagerte Fähigkeiten und trägt dazu bei, skalierungs-vorhersehbare Bewertungen von Spitzen-KI-Modellen zu etablieren.

English

Predictable behavior from scaling advanced AI systems is an extremely desirable property. Although a well-established literature exists on how pretraining performance scales, the literature on how particular downstream capabilities scale is significantly muddier. In this work, we take a step back and ask: why has predicting specific downstream capabilities with scale remained elusive? While many factors are certainly responsible, we identify a new factor that makes modeling scaling behavior on widely used multiple-choice question-answering benchmarks challenging. Using five model families and twelve well-established multiple-choice benchmarks, we show that downstream performance is computed from negative log likelihoods via a sequence of transformations that progressively degrade the statistical relationship between performance and scale. We then reveal the mechanism causing this degradation: downstream metrics require comparing the correct choice against a small number of specific incorrect choices, meaning accurately predicting downstream capabilities requires predicting not just how probability mass concentrates on the correct choice with scale, but also how probability mass fluctuates on specific incorrect choices with scale. We empirically study how probability mass on the correct choice co-varies with probability mass on incorrect choices with increasing compute, suggesting that scaling laws for incorrect choices might be achievable. Our work also explains why pretraining scaling laws are commonly regarded as more predictable than downstream capabilities and contributes towards establishing scaling-predictable evaluations of frontier AI models.