ChatPaper.aiChatPaper

SimpleFold: Plegar proteínas es más sencillo de lo que piensas

SimpleFold: Folding Proteins is Simpler than You Think

September 23, 2025
Autores: Yuyang Wang, Jiarui Lu, Navdeep Jaitly, Josh Susskind, Miguel Angel Bautista
cs.AI

Resumen

Los modelos de plegamiento de proteínas han logrado resultados revolucionarios, generalmente mediante la integración de conocimiento del dominio en los bloques arquitectónicos y los pipelines de entrenamiento. Sin embargo, dado el éxito de los modelos generativos en problemas diferentes pero relacionados, es natural cuestionar si estos diseños arquitectónicos son una condición necesaria para construir modelos de alto rendimiento. En este artículo, presentamos SimpleFold, el primer modelo de plegamiento de proteínas basado en emparejamiento de flujos que utiliza únicamente bloques de transformadores de propósito general. Los modelos de plegamiento de proteínas suelen emplear módulos computacionalmente costosos que incluyen actualizaciones triangulares, representaciones explícitas de pares o múltiples objetivos de entrenamiento diseñados específicamente para este dominio. En cambio, SimpleFold utiliza bloques estándar de transformadores con capas adaptativas y se entrena mediante un objetivo de emparejamiento de flujos generativo con un término estructural adicional. Escalamos SimpleFold a 3 mil millones de parámetros y lo entrenamos con aproximadamente 9 millones de estructuras proteicas destiladas junto con datos experimentales del PDB. En los puntos de referencia estándar de plegamiento, SimpleFold-3B logra un rendimiento competitivo en comparación con los modelos de última generación, además de demostrar un fuerte desempeño en la predicción por ensambles, lo que suele ser difícil para los modelos entrenados mediante objetivos de reconstrucción determinísticos. Debido a su arquitectura de propósito general, SimpleFold muestra eficiencia en la implementación e inferencia en hardware de nivel de consumo. SimpleFold desafía la dependencia de diseños arquitectónicos complejos específicos del dominio en el plegamiento de proteínas, abriendo un espacio de diseño alternativo para futuros avances.
English
Protein folding models have achieved groundbreaking results typically via a combination of integrating domain knowledge into the architectural blocks and training pipelines. Nonetheless, given the success of generative models across different but related problems, it is natural to question whether these architectural designs are a necessary condition to build performant models. In this paper, we introduce SimpleFold, the first flow-matching based protein folding model that solely uses general purpose transformer blocks. Protein folding models typically employ computationally expensive modules involving triangular updates, explicit pair representations or multiple training objectives curated for this specific domain. Instead, SimpleFold employs standard transformer blocks with adaptive layers and is trained via a generative flow-matching objective with an additional structural term. We scale SimpleFold to 3B parameters and train it on approximately 9M distilled protein structures together with experimental PDB data. On standard folding benchmarks, SimpleFold-3B achieves competitive performance compared to state-of-the-art baselines, in addition SimpleFold demonstrates strong performance in ensemble prediction which is typically difficult for models trained via deterministic reconstruction objectives. Due to its general-purpose architecture, SimpleFold shows efficiency in deployment and inference on consumer-level hardware. SimpleFold challenges the reliance on complex domain-specific architectures designs in protein folding, opening up an alternative design space for future progress.
PDF75September 25, 2025