Speculatieve Ad-hoc Querying

Speculative Ad-hoc Querying

March 2, 2025

Auteurs: Haoyu Li, Srikanth Kandula, Maria Angels de Luis Balaguer, Aditya Akella, Venkat Arun

cs.AI

Samenvatting

Het analyseren van grote datasets vereist een responsieve uitvoering van queries, maar het uitvoeren van SQL-queries op enorme datasets kan traag zijn. Dit artikel onderzoekt of de uitvoering van queries kan beginnen nog voordat de gebruiker klaar is met typen, waardoor resultaten bijna direct verschijnen. Wij stellen SpeQL voor, een systeem dat gebruikmaakt van Large Language Models (LLMs) om waarschijnlijke queries te voorspellen op basis van het databaseschema, de eerdere queries van de gebruiker en hun onvolledige query. Aangezien exacte queryvoorspelling niet haalbaar is, speculeert SpeQL over gedeeltelijke queries op twee manieren: 1) het voorspelt de querystructuur om queries vooraf te compileren en te plannen, en 2) het berekent kleinere tijdelijke tabellen voor die veel kleiner zijn dan de oorspronkelijke database, maar waarvan wordt voorspeld dat ze alle benodigde informatie bevatten om de uiteindelijke query van de gebruiker te beantwoorden. Daarnaast toont SpeQL continu resultaten voor gespeculeerde queries en subqueries in realtime, wat helpt bij verkennende analyse. Een gebruikersstudie toonde aan dat SpeQL de taakvoltooiingstijd verbeterde, en deelnemers gaven aan dat het speculatieve tonen van resultaten hen hielp om sneller patronen in de data te ontdekken. In de studie verbeterde SpeQL de querylatentie van gebruikers tot wel 289 keer en hield het de overhead redelijk, op $4 per uur.

English

Analyzing large datasets requires responsive query execution, but executing SQL queries on massive datasets can be slow. This paper explores whether query execution can begin even before the user has finished typing, allowing results to appear almost instantly. We propose SpeQL, a system that leverages Large Language Models (LLMs) to predict likely queries based on the database schema, the user's past queries, and their incomplete query. Since exact query prediction is infeasible, SpeQL speculates on partial queries in two ways: 1) it predicts the query structure to compile and plan queries in advance, and 2) it precomputes smaller temporary tables that are much smaller than the original database, but are still predicted to contain all information necessary to answer the user's final query. Additionally, SpeQL continuously displays results for speculated queries and subqueries in real time, aiding exploratory analysis. A utility/user study showed that SpeQL improved task completion time, and participants reported that its speculative display of results helped them discover patterns in the data more quickly. In the study, SpeQL improves user's query latency by up to 289times and kept the overhead reasonable, at 4$ per hour.