Flow-of-Options: 選択肢を通じた思考による多様化・改善された大規模言語モデルの推論

Flow-of-Options: Diversified and Improved LLM Reasoning by Thinking Through Options

February 18, 2025

著者: Lakshmi Nair, Ian Trase, Mark Kim

cs.AI

要旨

本論文では、大規模言語モデル（LLM）に内在するバイアスに対処するために設計された新しい推論アプローチ「Flow-of-Options（FoO）」を提案します。FoOは、LLMが推論において多様な可能性を体系的に探索することを可能にし、機械学習タスクを自律的に解決するためのFoOベースのエージェントシステム（AutoML）によってその有効性が実証されています。本フレームワークは、標準的なデータサイエンスタスクにおいて38.2%～69.2%、治療化学タスクにおいて37.4%～47.9%の改善を達成し、最先端のベースラインを上回りました。1タスクあたりの総運用コストが1ドル未満であるため、コストに敏感なアプリケーションにも適しています。分類や回帰を超えて、強化学習や画像生成などのタスクに対するFoOベースのエージェントシステムの幅広い適用可能性を示します。本フレームワークは、FoOの利点により、圧縮された説明可能な表現を通じてLLMソリューションの多様性を強化し、ケースベース推論と組み合わせることで長期記憶もサポートするため、現在の最先端のAutoMLエージェントシステムと比較して大きな進歩を実現しています。

English

We present a novel reasoning approach called Flow-of-Options (FoO), designed to address intrinsic biases in Large Language Models (LLMs). FoO enables LLMs to systematically explore a diverse range of possibilities in their reasoning, as demonstrated by an FoO-based agentic system for autonomously solving Machine Learning tasks (AutoML). Our framework outperforms state-of-the-art baselines, achieving improvements of 38.2% - 69.2% on standard data science tasks, and 37.4% - 47.9% on therapeutic chemistry tasks. With an overall operation cost under $1 per task, our framework is well-suited for cost-sensitive applications. Beyond classification and regression, we illustrate the broader applicability of our FoO-based agentic system to tasks such as reinforcement learning and image generation. Our framework presents significant advancements compared to current state-of-the-art agentic systems for AutoML, due to the benefits of FoO in enforcing diversity in LLM solutions through compressed, explainable representations that also support long-term memory when combined with case-based reasoning.