Reale Lücken in der KI-Governance-Forschung

Real-World Gaps in AI Governance Research

April 30, 2025

Autoren: Ilan Strauss, Isobel Moure, Tim O'Reilly, Sruly Rosenblat

cs.AI

Zusammenfassung

Basierend auf 1.178 Sicherheits- und Zuverlässigkeitsarbeiten aus 9.439 Papieren zur generativen KI (Januar 2020 - März 2025) vergleichen wir die Forschungsergebnisse führender KI-Unternehmen (Anthropic, Google DeepMind, Meta, Microsoft und OpenAI) und KI-Universitäten (CMU, MIT, NYU, Stanford, UC Berkeley und University of Washington). Wir stellen fest, dass sich die Unternehmensforschung im Bereich KI zunehmend auf prä-deployment-Bereiche konzentriert – Modellausrichtung sowie Testen und Bewertung – während die Aufmerksamkeit für deployment-bezogene Probleme wie Modellverzerrung nachgelassen hat. Es bestehen erhebliche Forschungslücken in Hochrisiko-Bereichen des Einsatzes, einschließlich Gesundheitswesen, Finanzen, Fehlinformationen, überzeugenden und suchterzeugenden Funktionen, Halluzinationen und Urheberrecht. Ohne verbesserte Beobachtbarkeit von eingesetzter KI könnte die wachsende Konzentration im Unternehmensbereich Wissensdefizite vertiefen. Wir empfehlen, den Zugang externer Forscher zu Einsatzdaten und die systematische Beobachtbarkeit des Marktverhaltens von KI zu erweitern.

English

Drawing on 1,178 safety and reliability papers from 9,439 generative AI papers (January 2020 - March 2025), we compare research outputs of leading AI companies (Anthropic, Google DeepMind, Meta, Microsoft, and OpenAI) and AI universities (CMU, MIT, NYU, Stanford, UC Berkeley, and University of Washington). We find that corporate AI research increasingly concentrates on pre-deployment areas -- model alignment and testing & evaluation -- while attention to deployment-stage issues such as model bias has waned. Significant research gaps exist in high-risk deployment domains, including healthcare, finance, misinformation, persuasive and addictive features, hallucinations, and copyright. Without improved observability into deployed AI, growing corporate concentration could deepen knowledge deficits. We recommend expanding external researcher access to deployment data and systematic observability of in-market AI behaviors.