Flow-of-Options: Gediversifieerd en verbeterd LLM-redeneren door na te denken over opties

Flow-of-Options: Diversified and Improved LLM Reasoning by Thinking Through Options

February 18, 2025

Auteurs: Lakshmi Nair, Ian Trase, Mark Kim

cs.AI

Samenvatting

We presenteren een nieuwe redeneeraanpak genaamd Flow-of-Options (FoO), ontworpen om intrinsieke biases in Large Language Models (LLMs) aan te pakken. FoO stelt LLMs in staat om systematisch een diverse reeks mogelijkheden in hun redenering te verkennen, zoals gedemonstreerd door een FoO-gebaseerd agentisch systeem voor het autonoom oplossen van Machine Learning-taken (AutoML). Ons framework overtreft state-of-the-art baselines, met verbeteringen van 38,2% - 69,2% op standaard data science-taken en 37,4% - 47,9% op therapeutische chemie-taken. Met een totale operationele kostprijs van minder dan $1 per taak, is ons framework goed geschikt voor kostenbewuste toepassingen. Naast classificatie en regressie, illustreren we de bredere toepasbaarheid van ons FoO-gebaseerde agentische systeem op taken zoals reinforcement learning en beeldgeneratie. Ons framework biedt significante verbeteringen ten opzichte van de huidige state-of-the-art agentische systemen voor AutoML, dankzij de voordelen van FoO in het afdwingen van diversiteit in LLM-oplossingen door middel van gecomprimeerde, verklaarbare representaties die ook langetermijngeheugen ondersteunen wanneer gecombineerd met case-based reasoning.

English

We present a novel reasoning approach called Flow-of-Options (FoO), designed to address intrinsic biases in Large Language Models (LLMs). FoO enables LLMs to systematically explore a diverse range of possibilities in their reasoning, as demonstrated by an FoO-based agentic system for autonomously solving Machine Learning tasks (AutoML). Our framework outperforms state-of-the-art baselines, achieving improvements of 38.2% - 69.2% on standard data science tasks, and 37.4% - 47.9% on therapeutic chemistry tasks. With an overall operation cost under $1 per task, our framework is well-suited for cost-sensitive applications. Beyond classification and regression, we illustrate the broader applicability of our FoO-based agentic system to tasks such as reinforcement learning and image generation. Our framework presents significant advancements compared to current state-of-the-art agentic systems for AutoML, due to the benefits of FoO in enforcing diversity in LLM solutions through compressed, explainable representations that also support long-term memory when combined with case-based reasoning.