Flow-of-Options: Ragionamento Migliorato e Diversificato nei LLM Pensando Attraverso le Opzioni

Flow-of-Options: Diversified and Improved LLM Reasoning by Thinking Through Options

February 18, 2025

Autori: Lakshmi Nair, Ian Trase, Mark Kim

cs.AI

Abstract

Presentiamo un nuovo approccio di ragionamento chiamato Flow-of-Options (FoO), progettato per affrontare i bias intrinseci nei Large Language Models (LLM). FoO consente ai LLM di esplorare sistematicamente un'ampia gamma di possibilità nel loro ragionamento, come dimostrato da un sistema agentico basato su FoO per risolvere autonomamente task di Machine Learning (AutoML). Il nostro framework supera i benchmark state-of-the-art, ottenendo miglioramenti del 38,2% - 69,2% su task standard di data science e del 37,4% - 47,9% su task di chimica terapeutica. Con un costo operativo complessivo inferiore a $1 per task, il nostro framework è particolarmente adatto per applicazioni sensibili ai costi. Oltre alla classificazione e alla regressione, illustriamo l'ampia applicabilità del nostro sistema agentico basato su FoO a task come il reinforcement learning e la generazione di immagini. Il nostro framework rappresenta un significativo avanzamento rispetto ai sistemi agentici state-of-the-art per AutoML, grazie ai benefici di FoO nel promuovere la diversità nelle soluzioni dei LLM attraverso rappresentazioni compresse e spiegabili che supportano anche la memoria a lungo termine quando combinate con il ragionamento basato su casi.

English

We present a novel reasoning approach called Flow-of-Options (FoO), designed to address intrinsic biases in Large Language Models (LLMs). FoO enables LLMs to systematically explore a diverse range of possibilities in their reasoning, as demonstrated by an FoO-based agentic system for autonomously solving Machine Learning tasks (AutoML). Our framework outperforms state-of-the-art baselines, achieving improvements of 38.2% - 69.2% on standard data science tasks, and 37.4% - 47.9% on therapeutic chemistry tasks. With an overall operation cost under $1 per task, our framework is well-suited for cost-sensitive applications. Beyond classification and regression, we illustrate the broader applicability of our FoO-based agentic system to tasks such as reinforcement learning and image generation. Our framework presents significant advancements compared to current state-of-the-art agentic systems for AutoML, due to the benefits of FoO in enforcing diversity in LLM solutions through compressed, explainable representations that also support long-term memory when combined with case-based reasoning.