SimpleFold: Dobrar Proteínas é Mais Simples do que Você Imagina

SimpleFold: Folding Proteins is Simpler than You Think

September 23, 2025

Autores: Yuyang Wang, Jiarui Lu, Navdeep Jaitly, Josh Susskind, Miguel Angel Bautista

cs.AI

Resumo

Modelos de dobramento de proteínas têm alcançado resultados revolucionários, geralmente por meio de uma combinação de integração de conhecimento de domínio nos blocos arquiteturais e pipelines de treinamento. No entanto, dado o sucesso de modelos generativos em problemas diferentes, mas relacionados, é natural questionar se esses designs arquiteturais são uma condição necessária para construir modelos de alto desempenho. Neste artigo, apresentamos o SimpleFold, o primeiro modelo de dobramento de proteínas baseado em flow-matching que utiliza exclusivamente blocos de transformadores de propósito geral. Modelos de dobramento de proteínas normalmente empregam módulos computacionalmente caros que envolvem atualizações triangulares, representações explícitas de pares ou múltiplos objetivos de treinamento cuidadosamente elaborados para esse domínio específico. Em vez disso, o SimpleFold utiliza blocos de transformadores padrão com camadas adaptativas e é treinado por meio de um objetivo de flow-matching generativo com um termo estrutural adicional. Escalonamos o SimpleFold para 3 bilhões de parâmetros e o treinamos em aproximadamente 9 milhões de estruturas proteicas destiladas, juntamente com dados experimentais do PDB. Em benchmarks padrão de dobramento, o SimpleFold-3B alcança desempenho competitivo em comparação com as melhores baselines do estado da arte. Além disso, o SimpleFold demonstra forte desempenho em previsões de ensemble, o que normalmente é difícil para modelos treinados por meio de objetivos de reconstrução determinística. Devido à sua arquitetura de propósito geral, o SimpleFold mostra eficiência na implantação e inferência em hardware de nível consumidor. O SimpleFold desafia a dependência de designs arquiteturais complexos e específicos de domínio no dobramento de proteínas, abrindo um espaço de design alternativo para progressos futuros.

English

Protein folding models have achieved groundbreaking results typically via a combination of integrating domain knowledge into the architectural blocks and training pipelines. Nonetheless, given the success of generative models across different but related problems, it is natural to question whether these architectural designs are a necessary condition to build performant models. In this paper, we introduce SimpleFold, the first flow-matching based protein folding model that solely uses general purpose transformer blocks. Protein folding models typically employ computationally expensive modules involving triangular updates, explicit pair representations or multiple training objectives curated for this specific domain. Instead, SimpleFold employs standard transformer blocks with adaptive layers and is trained via a generative flow-matching objective with an additional structural term. We scale SimpleFold to 3B parameters and train it on approximately 9M distilled protein structures together with experimental PDB data. On standard folding benchmarks, SimpleFold-3B achieves competitive performance compared to state-of-the-art baselines, in addition SimpleFold demonstrates strong performance in ensemble prediction which is typically difficult for models trained via deterministic reconstruction objectives. Due to its general-purpose architecture, SimpleFold shows efficiency in deployment and inference on consumer-level hardware. SimpleFold challenges the reliance on complex domain-specific architectures designs in protein folding, opening up an alternative design space for future progress.