オプティマイザこそがエージェントである：プロンプト、プログラム、機械学習ワークフローにわたる推論駆動型探索

要旨

プロンプト、プログラム、MLワークフローを最適化する最近のシステムは、通常、進化的探索、バンディット、テキスト勾配法などの明示的な外部ループ制御器に依存している。我々は、この探索方針のどの程度を単一のツール利用エージェントが内面化できるのかという、根本的に異なる問いを提起する。我々はReASearchを提示する。これは推論駆動型最適化のための統一フレームワークであり、エージェントが何を評価するか、失敗をどのように診断するか、どの編集を行うか、いつ検証または再開するかを自律的に決定する。単に手設計のヒューリスティクスに導かれた提案生成器として機能するのではなく、エージェントは結果を能動的に分析し、予算を配分し、永続的メモリを通じて長期的な視野で戦略を洗練させる。共有エージェントループとドメイン固有ツールにより、ReASearchはまったく同じスキャフォールドをインスタンス化し、プロンプト、プログラム、MLワークフローを最適化する。多様な14タスクにわたり、ReASearchは専用最適化システムと競争力があり、ほとんどの場合でそれらを上回り、強力なドメイン固有ベースラインに対して2%から40%の改善を達成し、場合によっては従来の人間による既知最良結果を改善する解を発見する。重要なことに、通常は明示的制御器によって実装される複雑な探索行動が、エージェントの推論プロセスから自然に出現することを我々は観察する。

English

Recent systems for optimizing prompts, programs, and ML workflows typically rely on explicit outer-loop controllers such as evolutionary search, bandits, or textual-gradient methods. We ask a fundamentally different question: how much of this search policy can be internalized by a single tool-using agent? We present ReASearch, a unified framework for reasoning-driven optimization in which the agent autonomously decides what to evaluate, how to diagnose failures, which edits to make, and when to verify or restart. Rather than serving only as a proposal generator guided by hand-designed heuristics, the agent actively analyzes outcomes, allocates budget, and refines its strategy over long horizons through persistent memory. With a shared agent loop and domain-specific tools, ReASearch instantiates the exact same scaffold to optimize prompts, programs, and ML workflows. Across 14 diverse tasks, it is competitive with and mostly better than specialized optimization systems, achieving gains of 2% to 40% over strong domain-specific baselines, and in some cases discovering solutions that improve on prior human best-known results. Crucially, we observe that complex search behaviors, which are typically implemented by explicit controllers, emerge naturally from the agent's reasoning process.