DreamDiffusion : Génération d'images de haute qualité à partir de signaux EEG cérébraux

DreamDiffusion: Generating High-Quality Images from Brain EEG Signals

June 29, 2023

Auteurs: Yunpeng Bai, Xintao Wang, Yanpei Cao, Yixiao Ge, Chun Yuan, Ying Shan

cs.AI

Résumé

Cet article présente DreamDiffusion, une méthode novatrice pour générer des images de haute qualité directement à partir de signaux électroencéphalographiques (EEG) cérébraux, sans nécessiter la traduction des pensées en texte. DreamDiffusion exploite des modèles pré-entraînés de génération d'images à partir de texte et utilise une modélisation temporelle masquée des signaux pour pré-entraîner l'encodeur EEG afin d'obtenir des représentations EEG efficaces et robustes. De plus, la méthode tire parti de l'encodeur d'images CLIP pour fournir une supervision supplémentaire, permettant ainsi un meilleur alignement des embeddings EEG, texte et image malgré un nombre limité de paires EEG-image. Globalement, la méthode proposée surmonte les défis liés à l'utilisation des signaux EEG pour la génération d'images, tels que le bruit, l'information limitée et les différences individuelles, et obtient des résultats prometteurs. Les résultats quantitatifs et qualitatifs démontrent l'efficacité de la méthode proposée comme une avancée significative vers une « pensée-à-image » portable et à faible coût, avec des applications potentielles en neurosciences et en vision par ordinateur.

English

This paper introduces DreamDiffusion, a novel method for generating high-quality images directly from brain electroencephalogram (EEG) signals, without the need to translate thoughts into text. DreamDiffusion leverages pre-trained text-to-image models and employs temporal masked signal modeling to pre-train the EEG encoder for effective and robust EEG representations. Additionally, the method further leverages the CLIP image encoder to provide extra supervision to better align EEG, text, and image embeddings with limited EEG-image pairs. Overall, the proposed method overcomes the challenges of using EEG signals for image generation, such as noise, limited information, and individual differences, and achieves promising results. Quantitative and qualitative results demonstrate the effectiveness of the proposed method as a significant step towards portable and low-cost ``thoughts-to-image'', with potential applications in neuroscience and computer vision.