Modelos de lenguaje en el descubrimiento molecular

Language models in molecular discovery

September 28, 2023

Autores: Nikita Janakarajan, Tim Erdmann, Sarath Swaminathan, Teodoro Laino, Jannis Born

cs.AI

Resumen

El éxito de los modelos de lenguaje, especialmente las arquitecturas basadas en transformadores, se ha extendido a otros dominios, dando lugar a los "modelos de lenguaje científicos" que operan sobre moléculas pequeñas, proteínas o polímeros. En química, los modelos de lenguaje contribuyen a acelerar el ciclo de descubrimiento de moléculas, como lo demuestran hallazgos recientes y prometedores en las primeras etapas del descubrimiento de fármacos. Aquí, revisamos el papel de los modelos de lenguaje en el descubrimiento molecular, destacando su fortaleza en el diseño de novo de fármacos, la predicción de propiedades y la química de reacciones. Resaltamos valiosos recursos de software de código abierto, lo que reduce la barrera de entrada al campo del modelado de lenguaje científico. Por último, esbozamos una visión para el diseño molecular futuro que combina una interfaz de chatbot con acceso a herramientas de química computacional. Nuestra contribución sirve como un recurso valioso para investigadores, químicos y entusiastas de la IA interesados en comprender cómo los modelos de lenguaje pueden y serán utilizados para acelerar el descubrimiento químico.

English

The success of language models, especially transformer-based architectures, has trickled into other domains giving rise to "scientific language models" that operate on small molecules, proteins or polymers. In chemistry, language models contribute to accelerating the molecule discovery cycle as evidenced by promising recent findings in early-stage drug discovery. Here, we review the role of language models in molecular discovery, underlining their strength in de novo drug design, property prediction and reaction chemistry. We highlight valuable open-source software assets thus lowering the entry barrier to the field of scientific language modeling. Last, we sketch a vision for future molecular design that combines a chatbot interface with access to computational chemistry tools. Our contribution serves as a valuable resource for researchers, chemists, and AI enthusiasts interested in understanding how language models can and will be used to accelerate chemical discovery.