E3 TTS: Einfache End-to-End Diffusionsbasierte Text-zu-Sprache-Synthese

E3 TTS: Easy End-to-End Diffusion-based Text to Speech

November 2, 2023

Autoren: Yuan Gao, Nobuyuki Morioka, Yu Zhang, Nanxin Chen

cs.AI

Zusammenfassung

Wir schlagen Easy End-to-End Diffusion-based Text to Speech vor, ein einfaches und effizientes End-to-End-Text-zu-Sprache-Modell, das auf Diffusion basiert. E3 TTS nimmt direkt Klartext als Eingabe und erzeugt ein Audiowellenform durch einen iterativen Verfeinerungsprozess. Im Gegensatz zu vielen früheren Arbeiten verlässt sich E3 TTS nicht auf Zwischenrepräsentationen wie Spektrogrammmerkmale oder Ausrichtungsinformationen. Stattdessen modelliert E3 TTS die zeitliche Struktur der Wellenform durch den Diffusionsprozess. Ohne sich auf zusätzliche Konditionierungsinformationen zu stützen, kann E3 TTS flexible latente Strukturen innerhalb der gegebenen Audiodaten unterstützen. Dies ermöglicht es E3 TTS, leicht für Zero-Shot-Aufgaben wie Bearbeitungen ohne zusätzliches Training angepasst zu werden. Experimente zeigen, dass E3 TTS hochwertige Audio erzeugen kann, was die Leistung eines modernen neuronalen TTS-Systems erreicht. Audiobeispiele sind unter https://e3tts.github.io verfügbar.

English

We propose Easy End-to-End Diffusion-based Text to Speech, a simple and efficient end-to-end text-to-speech model based on diffusion. E3 TTS directly takes plain text as input and generates an audio waveform through an iterative refinement process. Unlike many prior work, E3 TTS does not rely on any intermediate representations like spectrogram features or alignment information. Instead, E3 TTS models the temporal structure of the waveform through the diffusion process. Without relying on additional conditioning information, E3 TTS could support flexible latent structure within the given audio. This enables E3 TTS to be easily adapted for zero-shot tasks such as editing without any additional training. Experiments show that E3 TTS can generate high-fidelity audio, approaching the performance of a state-of-the-art neural TTS system. Audio samples are available at https://e3tts.github.io.