SimpleFold: Eiwitten vouwen is eenvoudiger dan je denkt

SimpleFold: Folding Proteins is Simpler than You Think

September 23, 2025

Auteurs: Yuyang Wang, Jiarui Lu, Navdeep Jaitly, Josh Susskind, Miguel Angel Bautista

cs.AI

Samenvatting

Eiwitvouwmodellen hebben baanbrekende resultaten bereikt, meestal door een combinatie van het integreren van domeinkennis in de architectuurblokken en trainingspijplijnen. Gezien het succes van generatieve modellen bij verschillende maar verwante problemen, is het echter natuurlijk om de vraag te stellen of deze architectuurontwerpen een noodzakelijke voorwaarde zijn om presterende modellen te bouwen. In dit artikel introduceren we SimpleFold, het eerste op flow-matching gebaseerde eiwitvouwmodel dat uitsluitend gebruikmaakt van algemene transformerblokken. Eiwitvouwmodellen gebruiken doorgaans rekenintensieve modules die driehoekige updates, expliciete paarrepresentaties of meerdere trainingsdoelstellingen omvatten die specifiek voor dit domein zijn ontworpen. In plaats daarvan maakt SimpleFold gebruik van standaard transformerblokken met adaptieve lagen en wordt het getraind via een generatief flow-matching doel met een aanvullende structurele term. We schalen SimpleFold op naar 3B parameters en trainen het op ongeveer 9M gedistilleerde eiwitstructuren samen met experimentele PDB-gegevens. Op standaard vouwbenchmarks behaalt SimpleFold-3B competitieve prestaties vergeleken met state-of-the-art baselines. Daarnaast toont SimpleFold sterke prestaties in ensemblevoorspellingen, wat doorgaans moeilijk is voor modellen die getraind zijn via deterministische reconstructiedoelstellingen. Door zijn algemene architectuur toont SimpleFold efficiëntie in implementatie en inferentie op consumentenhardware. SimpleFold daagt de afhankelijkheid van complexe domeinspecifieke architectuurontwerpen in eiwitvouwen uit en opent een alternatieve ontwerpruimte voor toekomstige vooruitgang.

English

Protein folding models have achieved groundbreaking results typically via a combination of integrating domain knowledge into the architectural blocks and training pipelines. Nonetheless, given the success of generative models across different but related problems, it is natural to question whether these architectural designs are a necessary condition to build performant models. In this paper, we introduce SimpleFold, the first flow-matching based protein folding model that solely uses general purpose transformer blocks. Protein folding models typically employ computationally expensive modules involving triangular updates, explicit pair representations or multiple training objectives curated for this specific domain. Instead, SimpleFold employs standard transformer blocks with adaptive layers and is trained via a generative flow-matching objective with an additional structural term. We scale SimpleFold to 3B parameters and train it on approximately 9M distilled protein structures together with experimental PDB data. On standard folding benchmarks, SimpleFold-3B achieves competitive performance compared to state-of-the-art baselines, in addition SimpleFold demonstrates strong performance in ensemble prediction which is typically difficult for models trained via deterministic reconstruction objectives. Due to its general-purpose architecture, SimpleFold shows efficiency in deployment and inference on consumer-level hardware. SimpleFold challenges the reliance on complex domain-specific architectures designs in protein folding, opening up an alternative design space for future progress.