Generación de moléculas 3D mediante la eliminación de ruido en mallas de vóxeles

3D molecule generation by denoising voxel grids

June 13, 2023

Autores: Pedro O. Pinheiro, Joshua Rackers, Joseph Kleinhenz, Michael Maser, Omar Mahmood, Andrew Martin Watkins, Stephen Ra, Vishnu Sresht, Saeed Saremi

cs.AI

Resumen

Proponemos un nuevo enfoque basado en puntuaciones para generar moléculas 3D representadas como densidades atómicas en mallas regulares. Primero, entrenamos una red neuronal de eliminación de ruido que aprende a mapear desde una distribución suave de moléculas ruidosas hacia la distribución de moléculas reales. Luego, seguimos el marco de Bayes empírico neuronal [Saremi y Hyvarinen, 2019] y generamos moléculas en dos pasos: (i) muestreamos mallas de densidad ruidosas de una distribución suave mediante una cadena de Markov Monte Carlo de Langevin subamortiguada, y (ii) recuperamos la molécula "limpia" eliminando el ruido de la malla ruidosa en un solo paso. Nuestro método, VoxMol, genera moléculas de una manera fundamentalmente diferente al estado del arte actual (es decir, modelos de difusión aplicados a nubes de puntos atómicos). Difiere en términos de la representación de los datos, el modelo de ruido, la arquitectura de la red y el algoritmo de modelado generativo. VoxMol logra resultados comparables al estado del arte en la generación incondicional de moléculas 3D, siendo más sencillo de entrenar y más rápido para generar moléculas.

English

We propose a new score-based approach to generate 3D molecules represented as atomic densities on regular grids. First, we train a denoising neural network that learns to map from a smooth distribution of noisy molecules to the distribution of real molecules. Then, we follow the neural empirical Bayes framework [Saremi and Hyvarinen, 2019] and generate molecules in two steps: (i) sample noisy density grids from a smooth distribution via underdamped Langevin Markov chain Monte Carlo, and (ii) recover the ``clean'' molecule by denoising the noisy grid with a single step. Our method, VoxMol, generates molecules in a fundamentally different way than the current state of the art (i.e., diffusion models applied to atom point clouds). It differs in terms of the data representation, the noise model, the network architecture and the generative modeling algorithm. VoxMol achieves comparable results to state of the art on unconditional 3D molecule generation while being simpler to train and faster to generate molecules.