optimize_anything : une API universelle pour optimiser tout paramètre textuel

Résumé

Un seul système d'optimisation basé sur un LLM peut-il égaler des outils spécialisés dans des domaines fondamentalement différents ? Nous montrons que, lorsque les problèmes d'optimisation sont formulés comme l'amélioration d'un artefact textuel évalué par une fonction de score, un unique système d'optimisation basé sur l'IA — prenant en charge la recherche mono-tâche, la recherche multi-tâches avec transfert inter-problèmes et la généralisation à des entrées inédites — obtient des résultats de pointe sur six tâches diverses. Notre système découvre des architectures d'agent qui triplent presque la précision ARC-AGI de Gemini Flash (de 32,5 % à 89,5 %), trouve des algorithmes d'ordonnancement qui réduisent de 40 % les coûts dans le cloud, génère des noyaux CUDA dont 87 % égalent ou surpassent PyTorch, et surpasse la solution d'empilement de cercles rapportée par AlphaEvolve (n=26). Des ablations menées sur trois domaines révèlent que des informations contextuelles exploitables permettent une convergence plus rapide et des scores finaux nettement supérieurs à un simple retour de score, et que la recherche multi-tâches surpasse l'optimisation indépendante à budget par problème équivalent grâce au transfert inter-tâches, les bénéfices augmentant avec le nombre de tâches connexes. Ensemble, nous montrons pour la première fois que l'optimisation de texte par recherche basée sur un LLM constitue un paradigme de résolution de problèmes à usage général, unifiant sous un même cadre des tâches qui nécessitaient traditionnellement des algorithmes spécifiques à chaque domaine. Nous publions en open source optimize_anything avec le support de plusieurs backends dans le cadre du projet GEPA à l'adresse https://github.com/gepa-ai/gepa .

English

Can a single LLM-based optimization system match specialized tools across fundamentally different domains? We show that when optimization problems are formulated as improving a text artifact evaluated by a scoring function, a single AI-based optimization system-supporting single-task search, multi-task search with cross-problem transfer, and generalization to unseen inputs-achieves state-of-the-art results across six diverse tasks. Our system discovers agent architectures that nearly triple Gemini Flash's ARC-AGI accuracy (32.5% to 89.5%), finds scheduling algorithms that cut cloud costs by 40%, generates CUDA kernels where 87% match or beat PyTorch, and outperforms AlphaEvolve's reported circle packing solution (n=26). Ablations across three domains reveal that actionable side information yields faster convergence and substantially higher final scores than score-only feedback, and that multi-task search outperforms independent optimization given equivalent per-problem budget through cross-task transfer, with benefits scaling with the number of related tasks. Together, we show for the first time that text optimization with LLM-based search is a general-purpose problem-solving paradigm, unifying tasks traditionally requiring domain-specific algorithms under a single framework. We open-source optimize\_anything with support for multiple backends as part of the GEPA project at https://github.com/gepa-ai/gepa .