Spekulative Ad-hoc-Abfragen

Speculative Ad-hoc Querying

March 2, 2025

Autoren: Haoyu Li, Srikanth Kandula, Maria Angels de Luis Balaguer, Aditya Akella, Venkat Arun

cs.AI

Zusammenfassung

Die Analyse großer Datensätze erfordert eine reaktionsschnelle Abfrageausführung, doch die Ausführung von SQL-Abfragen auf massiven Datensätzen kann langsam sein. Dieses Papier untersucht, ob die Abfrageausführung bereits beginnen kann, bevor der Benutzer das Tippen beendet hat, sodass Ergebnisse nahezu sofort erscheinen. Wir stellen SpeQL vor, ein System, das Large Language Models (LLMs) nutzt, um wahrscheinliche Abfragen basierend auf dem Datenbankschema, den bisherigen Abfragen des Benutzers und seiner unvollständigen Abfrage vorherzusagen. Da eine exakte Abfragevorhersage nicht möglich ist, spekuliert SpeQL auf zwei Arten über Teilabfragen: 1) Es sagt die Abfragestruktur voraus, um Abfragen im Voraus zu kompilieren und zu planen, und 2) es berechnet kleinere temporäre Tabellen vor, die deutlich kleiner als die ursprüngliche Datenbank sind, aber dennoch alle Informationen enthalten sollen, die zur Beantwortung der endgültigen Abfrage des Benutzers notwendig sind. Zusätzlich zeigt SpeQL kontinuierlich Ergebnisse für spekulative Abfragen und Teilabfragen in Echtzeit an, was die explorative Analyse unterstützt. Eine Nutzerstudie zeigte, dass SpeQL die Zeit zur Aufgabenbewältigung verbesserte, und die Teilnehmer berichteten, dass die spekulative Anzeige von Ergebnissen ihnen half, Muster in den Daten schneller zu entdecken. In der Studie reduzierte SpeQL die Abfragelatenz der Benutzer um bis zu das 289-fache und hielt den Overhead mit 4$ pro Stunde in einem angemessenen Rahmen.

English

Analyzing large datasets requires responsive query execution, but executing SQL queries on massive datasets can be slow. This paper explores whether query execution can begin even before the user has finished typing, allowing results to appear almost instantly. We propose SpeQL, a system that leverages Large Language Models (LLMs) to predict likely queries based on the database schema, the user's past queries, and their incomplete query. Since exact query prediction is infeasible, SpeQL speculates on partial queries in two ways: 1) it predicts the query structure to compile and plan queries in advance, and 2) it precomputes smaller temporary tables that are much smaller than the original database, but are still predicted to contain all information necessary to answer the user's final query. Additionally, SpeQL continuously displays results for speculated queries and subqueries in real time, aiding exploratory analysis. A utility/user study showed that SpeQL improved task completion time, and participants reported that its speculative display of results helped them discover patterns in the data more quickly. In the study, SpeQL improves user's query latency by up to 289times and kept the overhead reasonable, at 4$ per hour.