DreamDiffusion: Erzeugung hochwertiger Bilder aus Gehirn-EEG-Signalen

DreamDiffusion: Generating High-Quality Images from Brain EEG Signals

June 29, 2023

Autoren: Yunpeng Bai, Xintao Wang, Yanpei Cao, Yixiao Ge, Chun Yuan, Ying Shan

cs.AI

Zusammenfassung

Dieses Paper stellt DreamDiffusion vor, eine neuartige Methode zur Erzeugung hochwertiger Bilder direkt aus Elektroenzephalogramm (EEG)-Signalen, ohne dass Gedanken in Text übersetzt werden müssen. DreamDiffusion nutzt vortrainierte Text-zu-Bild-Modelle und setzt temporale maskierte Signalmodellierung ein, um den EEG-Encoder für effektive und robuste EEG-Repräsentationen vorzutrainieren. Zusätzlich nutzt die Methode den CLIP-Bildencoder, um zusätzliche Überwachung bereitzustellen und so EEG-, Text- und Bild-Embeddings besser aufeinander abzustimmen, selbst bei begrenzten EEG-Bild-Paaren. Insgesamt überwindet die vorgeschlagene Methode die Herausforderungen bei der Verwendung von EEG-Signalen für die Bildgenerierung, wie Rauschen, begrenzte Informationen und individuelle Unterschiede, und erzielt vielversprechende Ergebnisse. Quantitative und qualitative Ergebnisse demonstrieren die Wirksamkeit der vorgeschlagenen Methode als einen bedeutenden Schritt hin zu tragbaren und kostengünstigen „Gedanken-zu-Bild“-Systemen, mit potenziellen Anwendungen in den Neurowissenschaften und der Computer Vision.

English

This paper introduces DreamDiffusion, a novel method for generating high-quality images directly from brain electroencephalogram (EEG) signals, without the need to translate thoughts into text. DreamDiffusion leverages pre-trained text-to-image models and employs temporal masked signal modeling to pre-train the EEG encoder for effective and robust EEG representations. Additionally, the method further leverages the CLIP image encoder to provide extra supervision to better align EEG, text, and image embeddings with limited EEG-image pairs. Overall, the proposed method overcomes the challenges of using EEG signals for image generation, such as noise, limited information, and individual differences, and achieves promising results. Quantitative and qualitative results demonstrate the effectiveness of the proposed method as a significant step towards portable and low-cost ``thoughts-to-image'', with potential applications in neuroscience and computer vision.