Dagelijkse Papers

Dit rapport introduceert Kandinsky 5.0, een familie van state-of-the-art foundation-modellen voor de synthese van hoogwaardige afbeeldingen en 10-seconden video’s. Het framework bestaat uit drie kernmodellen: Kandinsky 5.0 Image Lite – een reeks van 6B-parameter modellen voor beeldgeneratie, Kandinsky 5.0 Video Lite – snelle en lichtgewicht 2B-parameter modellen voor tekst-naar-video en beeld-naar-video, en Kandinsky 5.0 Video Pro – 19B-parameter modellen die superieure videogeneratiekwaliteit bereiken. We bieden een uitgebreid overzicht van de levenscyclus van datacuratie – inclusief verzameling, verwerking, filtering en clustering – voor de meerfasige trainingspipeline die uitgebreide voorafgaande training omvat en kwaliteitsverbeterende technieken integreert, zoals zelfsupervised fine-tuning (SFT) en reinforcement learning (RL)-gebaseerde na-training. We presenteren ook nieuwe architectonische, trainings- en inferentie-optimalisaties die Kandinsky 5.0 in staat stellen hoge generatiesnelheden en state-of-the-art prestaties te bereiken voor diverse taken, zoals aangetoond door menselijke evaluatie. Als een grootschalig, publiek beschikbaar generatief framework benut Kandinsky 5.0 het volledige potentieel van zijn voorafgaande training en latere fasen om te worden aangepast voor een breed scala aan generatieve toepassingen. We hopen dat dit rapport, samen met de release van onze open-source code en trainingscheckpoints, de ontwikkeling en toegankelijkheid van hoogwaardige generatieve modellen voor de onderzoeksgemeenschap aanzienlijk zal bevorderen.