Vision-Sprach-Modelle als Quelle für Belohnungen
Vision-Language Models as a Source of Rewards
December 14, 2023
Autoren: Kate Baumli, Satinder Baveja, Feryal Behbahani, Harris Chan, Gheorghe Comanici, Sebastian Flennerhag, Maxime Gazeau, Kristian Holsheimer, Dan Horgan, Michael Laskin, Clare Lyle, Hussain Masoom, Kay McKinney, Volodymyr Mnih, Alexander Neitz, Fabio Pardo, Jack Parker-Holder, John Quan, Tim Rocktäschel, Himanshu Sahni, Tom Schaul, Yannick Schroecker, Stephen Spencer, Richie Steigerwald, Luyu Wang, Lei Zhang
cs.AI
Zusammenfassung
Die Entwicklung von Generalisten-Agenten, die in komplexen, offenen Umgebungen viele Ziele erreichen können, ist eine der Forschungsgrenzen im Bereich des Reinforcement Learning. Ein wesentlicher begrenzender Faktor für den Aufbau solcher Generalisten-Agenten mit RL war bisher die Notwendigkeit einer großen Anzahl von Belohnungsfunktionen, um verschiedene Ziele zu erreichen. Wir untersuchen die Machbarkeit der Verwendung von Standard-Vision-Language-Modellen (VLMs) als Quellen für Belohnungen bei Reinforcement-Learning-Agenten. Wir zeigen, wie Belohnungen für die visuelle Erreichung einer Vielzahl von Sprachzielen aus der CLIP-Modellfamilie abgeleitet und verwendet werden können, um RL-Agenten zu trainieren, die verschiedene Sprachziele erreichen können. Wir demonstrieren diesen Ansatz in zwei unterschiedlichen visuellen Domänen und präsentieren einen Skalierungstrend, der zeigt, wie größere VLMs zu genaueren Belohnungen für die visuelle Zielerreichung führen, was wiederum leistungsfähigere RL-Agenten hervorbringt.
English
Building generalist agents that can accomplish many goals in rich open-ended
environments is one of the research frontiers for reinforcement learning. A key
limiting factor for building generalist agents with RL has been the need for a
large number of reward functions for achieving different goals. We investigate
the feasibility of using off-the-shelf vision-language models, or VLMs, as
sources of rewards for reinforcement learning agents. We show how rewards for
visual achievement of a variety of language goals can be derived from the CLIP
family of models, and used to train RL agents that can achieve a variety of
language goals. We showcase this approach in two distinct visual domains and
present a scaling trend showing how larger VLMs lead to more accurate rewards
for visual goal achievement, which in turn produces more capable RL agents.