optimize_anything: Uma API Universal para Otimizar Qualquer Parâmetro de Texto

Resumo

Um único sistema de otimização baseado em LLM pode igualar ferramentas especializadas em domínios fundamentalmente diferentes? Mostramos que, quando problemas de otimização são formulados como a melhoria de um artefato de texto avaliado por uma função de pontuação, um único sistema de otimização baseado em IA — apoiando busca de tarefa única, busca multitarefa com transferência entre problemas e generalização para entradas não vistas — alcança resultados de última geração em seis tarefas diversas. Nosso sistema descobre arquiteturas de agente que quase triplicam a precisão do Gemini Flash no ARC-AGI (de 32,5% para 89,5%), encontra algoritmos de escalonamento que reduzem custos de nuvem em 40%, gera kernels CUDA dos quais 87% igualam ou superam o PyTorch e supera a solução de empacotamento de círculos reportada pelo AlphaEvolve (n=26). Estudos de ablação em três domínios revelam que informação lateral acionável produz convergência mais rápida e pontuações finais substancialmente mais altas do que feedback apenas por pontuação, e que a busca multitarefa supera a otimização independente dado orçamento equivalente por problema através de transferência entre tarefas, com benefícios escalando com o número de tarefas relacionadas. Em conjunto, mostramos pela primeira vez que a otimização de texto com busca baseada em LLM é um paradigma de resolução de problemas de uso geral, unificando tarefas que tradicionalmente exigiam algoritmos específicos de domínio sob uma única estrutura. Disponibilizamos como código aberto o optimize\_anything com suporte para múltiplos backends como parte do projeto GEPA em https://github.com/gepa-ai/gepa.

English

Can a single LLM-based optimization system match specialized tools across fundamentally different domains? We show that when optimization problems are formulated as improving a text artifact evaluated by a scoring function, a single AI-based optimization system-supporting single-task search, multi-task search with cross-problem transfer, and generalization to unseen inputs-achieves state-of-the-art results across six diverse tasks. Our system discovers agent architectures that nearly triple Gemini Flash's ARC-AGI accuracy (32.5% to 89.5%), finds scheduling algorithms that cut cloud costs by 40%, generates CUDA kernels where 87% match or beat PyTorch, and outperforms AlphaEvolve's reported circle packing solution (n=26). Ablations across three domains reveal that actionable side information yields faster convergence and substantially higher final scores than score-only feedback, and that multi-task search outperforms independent optimization given equivalent per-problem budget through cross-task transfer, with benefits scaling with the number of related tasks. Together, we show for the first time that text optimization with LLM-based search is a general-purpose problem-solving paradigm, unifying tasks traditionally requiring domain-specific algorithms under a single framework. We open-source optimize\_anything with support for multiple backends as part of the GEPA project at https://github.com/gepa-ai/gepa .