Interrogazione Ad-hoc Speculativa

Speculative Ad-hoc Querying

March 2, 2025

Autori: Haoyu Li, Srikanth Kandula, Maria Angels de Luis Balaguer, Aditya Akella, Venkat Arun

cs.AI

Abstract

L'analisi di grandi dataset richiede un'esecuzione rapida delle query, ma l'esecuzione di query SQL su dataset di dimensioni massive può essere lenta. Questo articolo esplora se l'esecuzione delle query possa iniziare ancora prima che l'utente abbia terminato di digitare, consentendo ai risultati di apparire quasi istantaneamente. Proponiamo SpeQL, un sistema che sfrutta i Large Language Model (LLM) per prevedere le query più probabili in base allo schema del database, alle query passate dell'utente e alla query incompleta che sta digitando. Poiché la previsione esatta della query è impossibile, SpeQL specula sulle query parziali in due modi: 1) prevede la struttura della query per compilare e pianificare le query in anticipo, e 2) precalcola tabelle temporanee più piccole, molto meno estese rispetto al database originale, ma che si prevede contengano tutte le informazioni necessarie per rispondere alla query finale dell'utente. Inoltre, SpeQL visualizza continuamente i risultati per le query e le sottoquery speculati in tempo reale, facilitando l'analisi esplorativa. Uno studio di utilità/utente ha dimostrato che SpeQL ha migliorato il tempo di completamento delle attività, e i partecipanti hanno riferito che la visualizzazione speculativa dei risultati li ha aiutati a scoprire modelli nei dati più rapidamente. Nello studio, SpeQL ha ridotto la latenza delle query dell'utente fino a 289 volte e ha mantenuto un sovraccarico ragionevole, pari a 4$ all'ora.

English

Analyzing large datasets requires responsive query execution, but executing SQL queries on massive datasets can be slow. This paper explores whether query execution can begin even before the user has finished typing, allowing results to appear almost instantly. We propose SpeQL, a system that leverages Large Language Models (LLMs) to predict likely queries based on the database schema, the user's past queries, and their incomplete query. Since exact query prediction is infeasible, SpeQL speculates on partial queries in two ways: 1) it predicts the query structure to compile and plan queries in advance, and 2) it precomputes smaller temporary tables that are much smaller than the original database, but are still predicted to contain all information necessary to answer the user's final query. Additionally, SpeQL continuously displays results for speculated queries and subqueries in real time, aiding exploratory analysis. A utility/user study showed that SpeQL improved task completion time, and participants reported that its speculative display of results helped them discover patterns in the data more quickly. In the study, SpeQL improves user's query latency by up to 289times and kept the overhead reasonable, at 4$ per hour.