Позиция: Соревнования по ИИ задают золотой стандарт эмпирической строгости в оценке генеративного ИИ

Position: AI Competitions Provide the Gold Standard for Empirical Rigor in GenAI Evaluation

May 1, 2025

Авторы: D. Sculley, Will Cukierski, Phil Culliton, Sohier Dane, Maggie Demkin, Ryan Holbrook, Addison Howard, Paul Mooney, Walter Reade, Megan Risdal, Nate Keating

cs.AI

Аннотация

В данной позиционной статье мы отмечаем, что эмпирическая оценка в области генеративного ИИ находится в кризисной точке, поскольку традиционные стратегии оценки и тестирования в машинном обучении недостаточны для удовлетворения потребностей в оценке современных моделей и систем генеративного ИИ. Это обусловлено множеством причин, включая тот факт, что эти модели обычно имеют практически неограниченные пространства входных и выходных данных, часто не имеют четко определенной целевой истины (ground truth) и обычно демонстрируют сильные петли обратной связи и зависимость предсказаний от контекста предыдущих выходов модели. Помимо этих критических проблем, мы утверждаем, что вопросы {\em утечки данных} (leakage) и {\em загрязнения} (contamination) являются наиболее важными и сложными для решения в контексте оценки генеративного ИИ. Интересно, что в области ИИ-соревнований были разработаны эффективные меры и практики для борьбы с утечками с целью противодействия мошенничеству со стороны недобросовестных участников в рамках соревнований. Это делает ИИ-соревнования особенно ценным (но недостаточно используемым) ресурсом. Настало время для сообщества рассматривать ИИ-соревнования как золотой стандарт эмпирической строгости в оценке генеративного ИИ и использовать их результаты с соответствующей ценностью.

English

In this position paper, we observe that empirical evaluation in Generative AI is at a crisis point since traditional ML evaluation and benchmarking strategies are insufficient to meet the needs of evaluating modern GenAI models and systems. There are many reasons for this, including the fact that these models typically have nearly unbounded input and output spaces, typically do not have a well defined ground truth target, and typically exhibit strong feedback loops and prediction dependence based on context of previous model outputs. On top of these critical issues, we argue that the problems of {\em leakage} and {\em contamination} are in fact the most important and difficult issues to address for GenAI evaluations. Interestingly, the field of AI Competitions has developed effective measures and practices to combat leakage for the purpose of counteracting cheating by bad actors within a competition setting. This makes AI Competitions an especially valuable (but underutilized) resource. Now is time for the field to view AI Competitions as the gold standard for empirical rigor in GenAI evaluation, and to harness and harvest their results with according value.