DreamDiffusion: Generación de Imágenes de Alta Calidad a partir de Señales EEG Cerebrales

DreamDiffusion: Generating High-Quality Images from Brain EEG Signals

June 29, 2023

Autores: Yunpeng Bai, Xintao Wang, Yanpei Cao, Yixiao Ge, Chun Yuan, Ying Shan

cs.AI

Resumen

Este artículo presenta DreamDiffusion, un método novedoso para generar imágenes de alta calidad directamente a partir de señales de electroencefalograma (EEG), sin necesidad de traducir pensamientos a texto. DreamDiffusion aprovecha modelos preentrenados de texto a imagen y emplea modelado temporal de señales enmascaradas para preentrenar el codificador de EEG, obteniendo representaciones de EEG efectivas y robustas. Además, el método utiliza el codificador de imágenes CLIP para proporcionar supervisión adicional, alineando mejor los embeddings de EEG, texto e imagen con un número limitado de pares EEG-imagen. En general, el método propuesto supera los desafíos asociados al uso de señales de EEG para la generación de imágenes, como el ruido, la información limitada y las diferencias individuales, logrando resultados prometedores. Los resultados cuantitativos y cualitativos demuestran la eficacia del método como un avance significativo hacia la conversión portátil y de bajo costo de "pensamientos a imágenes", con posibles aplicaciones en neurociencia y visión por computadora.

English

This paper introduces DreamDiffusion, a novel method for generating high-quality images directly from brain electroencephalogram (EEG) signals, without the need to translate thoughts into text. DreamDiffusion leverages pre-trained text-to-image models and employs temporal masked signal modeling to pre-train the EEG encoder for effective and robust EEG representations. Additionally, the method further leverages the CLIP image encoder to provide extra supervision to better align EEG, text, and image embeddings with limited EEG-image pairs. Overall, the proposed method overcomes the challenges of using EEG signals for image generation, such as noise, limited information, and individual differences, and achieves promising results. Quantitative and qualitative results demonstrate the effectiveness of the proposed method as a significant step towards portable and low-cost ``thoughts-to-image'', with potential applications in neuroscience and computer vision.