TTS
v0.22.0
Пожалуйста, используйте наши специальные каналы для вопросов и обсуждений. Помощь становится гораздо более ценной, если она будет доступна публично, чтобы ею могло воспользоваться больше людей.
| Тип | Платформы |
|---|---|
| Отчеты об ошибках | Трекер проблем GitHub |
| ? Запросы на функции и идеи | Трекер проблем GitHub |
| ? Вопросы по использованию | Обсуждения на GitHub |
| ? Общая дискуссия | Обсуждения GitHub или Discord |
| Тип | Ссылки |
|---|---|
| Документация | ЧитатьДокументацию |
| ? Установка | TTS/README.md |
| ? Содействие | CONTRIBUTING.md |
| ? Дорожная карта | Основные планы развития |
| Выпущенные модели | Релизы TTS и экспериментальные модели |
| ? Статьи | Документы ТТС |
Подчеркнутые «TTS*» и «Judy*» — это внутренние модели ?TTS, которые не выпускаются с открытым исходным кодом. Они здесь, чтобы показать потенциал. Модели с префиксом точки (.Jofish.Abe и .Janice) озвучивают настоящие человеческие голоса.
Trainer API .dataset_analysis .Вы также можете помочь нам реализовать больше моделей.
?TTS протестирован на Ubuntu 18.04 с Python >= 3.9, < 3.12. .
Если вас интересует только синтез речи с помощью выпущенных моделей TTS, установка из PyPI — самый простой вариант.
pip install TTSЕсли вы планируете кодировать или обучать модели, клонируйте TTS и установите его локально.
git clone https://github.com/coqui-ai/TTS
pip install -e .[all,dev,notebooks] # Select the relevant extrasЕсли вы используете Ubuntu (Debian), вы также можете запустить следующие команды для установки.
$ make system-deps # intended to be used on Ubuntu (Debian). Let us know if you have a different OS.
$ make installЕсли вы используете Windows, ?@GuyPaddock написал здесь инструкции по установке.
Вы также можете попробовать TTS без установки с помощью образа докера. Просто выполните следующую команду, и вы сможете запустить TTS без ее установки.
docker run --rm -it -p 5002:5002 --entrypoint /bin/bash ghcr.io/coqui-ai/tts-cpu
python3 TTS/server/server.py --list_models # To get the list of available models
python3 TTS/server/server.py --model_name tts_models/en/vctk/vits # To start a serverЗатем вы можете воспользоваться сервером TTS здесь. Более подробную информацию об образах докера (например, о поддержке графического процессора) можно найти здесь.
import torch
from TTS . api import TTS
# Get device
device = "cuda" if torch . cuda . is_available () else "cpu"
# List available ?TTS models
print ( TTS (). list_models ())
# Init TTS
tts = TTS ( "tts_models/multilingual/multi-dataset/xtts_v2" ). to ( device )
# Run TTS
# ❗ Since this model is multi-lingual voice cloning model, we must set the target speaker_wav and language
# Text to speech list of amplitude values as output
wav = tts . tts ( text = "Hello world!" , speaker_wav = "my/cloning/audio.wav" , language = "en" )
# Text to speech to a file
tts . tts_to_file ( text = "Hello world!" , speaker_wav = "my/cloning/audio.wav" , language = "en" , file_path = "output.wav" ) # Init TTS with the target model name
tts = TTS ( model_name = "tts_models/de/thorsten/tacotron2-DDC" , progress_bar = False ). to ( device )
# Run TTS
tts . tts_to_file ( text = "Ich bin eine Testnachricht." , file_path = OUTPUT_PATH )
# Example voice cloning with YourTTS in English, French and Portuguese
tts = TTS ( model_name = "tts_models/multilingual/multi-dataset/your_tts" , progress_bar = False ). to ( device )
tts . tts_to_file ( "This is voice cloning." , speaker_wav = "my/cloning/audio.wav" , language = "en" , file_path = "output.wav" )
tts . tts_to_file ( "C'est le clonage de la voix." , speaker_wav = "my/cloning/audio.wav" , language = "fr-fr" , file_path = "output.wav" )
tts . tts_to_file ( "Isso é clonagem de voz." , speaker_wav = "my/cloning/audio.wav" , language = "pt-br" , file_path = "output.wav" ) Преобразование голоса в source_wav в голос target_wav
tts = TTS ( model_name = "voice_conversion_models/multilingual/vctk/freevc24" , progress_bar = False ). to ( "cuda" )
tts . voice_conversion_to_file ( source_wav = "my/source.wav" , target_wav = "my/target.wav" , file_path = "output.wav" )Таким образом, вы можете клонировать голоса, используя любую модель в TTS.
tts = TTS ( "tts_models/de/thorsten/tacotron2-DDC" )
tts . tts_with_vc_to_file (
"Wie sage ich auf Italienisch, dass ich dich liebe?" ,
speaker_wav = "target/speaker.wav" ,
file_path = "output.wav"
) Для моделей Fairseq используйте следующий формат имени: tts_models/<lang-iso_code>/fairseq/vits . Вы можете найти языковые коды ISO здесь и узнать о моделях Fairseq здесь.
# TTS with on the fly voice conversion
api = TTS ( "tts_models/deu/fairseq/vits" )
api . tts_with_vc_to_file (
"Wie sage ich auf Italienisch, dass ich dich liebe?" ,
speaker_wav = "target/speaker.wav" ,
file_path = "output.wav"
)tts командной строкиСинтезируйте речь в командной строке.
Вы можете использовать свою обученную модель или выбрать модель из предоставленного списка.
Если вы не укажете никаких моделей, будет использоваться английская модель на основе LJSpeech.
Список предоставленных моделей:
$ tts --list_models
Получите информацию о модели (как для tts_models, так и для vocoder_models):
Запрос по типу/имени: model_info_by_name использует имя из --list_models.
$ tts --model_info_by_name "<model_type>/<language>/<dataset>/<model_name>"
Например:
$ tts --model_info_by_name tts_models/tr/common-voice/glow-tts
$ tts --model_info_by_name vocoder_models/en/ljspeech/hifigan_v2
Запрос по типу/idx: model_query_idx использует соответствующий идентификатор из --list_models.
$ tts --model_info_by_idx "<model_type>/<model_query_idx>"
Например:
$ tts --model_info_by_idx tts_models/3
Запрос информации о модели по полному имени:
$ tts --model_info_by_name "<model_type>/<language>/<dataset>/<model_name>"
Запустите TTS с моделями по умолчанию:
$ tts --text "Text for TTS" --out_path output/path/speech.wav
Запустите TTS и передайте сгенерированные данные WAV-файла TTS:
$ tts --text "Text for TTS" --pipe_out --out_path output/path/speech.wav | aplay
Запустите модель TTS с моделью вокодера по умолчанию:
$ tts --text "Text for TTS" --model_name "<model_type>/<language>/<dataset>/<model_name>" --out_path output/path/speech.wav
Например:
$ tts --text "Text for TTS" --model_name "tts_models/en/ljspeech/glow-tts" --out_path output/path/speech.wav
Запускайте с конкретными моделями TTS и вокодера из списка:
$ tts --text "Text for TTS" --model_name "<model_type>/<language>/<dataset>/<model_name>" --vocoder_name "<model_type>/<language>/<dataset>/<model_name>" --out_path output/path/speech.wav
Например:
$ tts --text "Text for TTS" --model_name "tts_models/en/ljspeech/glow-tts" --vocoder_name "vocoder_models/en/ljspeech/univnet" --out_path output/path/speech.wav
Запустите свою собственную модель TTS (с использованием вокодера Гриффина-Лима):
$ tts --text "Text for TTS" --model_path path/to/model.pth --config_path path/to/config.json --out_path output/path/speech.wav
Запустите свои собственные модели TTS и Vocoder:
$ tts --text "Text for TTS" --model_path path/to/model.pth --config_path path/to/config.json --out_path output/path/speech.wav
--vocoder_path path/to/vocoder.pth --vocoder_config_path path/to/vocoder_config.json
Перечислите доступных докладчиков и выберите среди них <speaker_id>:
$ tts --model_name "<language>/<dataset>/<model_name>" --list_speaker_idxs
Запустите модель TTS с несколькими динамиками с идентификатором целевого динамика:
$ tts --text "Text for TTS." --out_path output/path/speech.wav --model_name "<language>/<dataset>/<model_name>" --speaker_idx <speaker_id>
Запустите собственную модель TTS с несколькими динамиками:
$ tts --text "Text for TTS" --out_path output/path/speech.wav --model_path path/to/model.pth --config_path path/to/config.json --speakers_file_path path/to/speaker.json --speaker_idx <speaker_id>
$ tts --out_path output/path/speech.wav --model_name "<language>/<dataset>/<model_name>" --source_wav <path/to/speaker/wav> --target_wav <path/to/reference/wav>
|- notebooks/ (Jupyter Notebooks for model evaluation, parameter selection and data analysis.)
|- utils/ (common utilities.)
|- TTS
|- bin/ (folder for all the executables.)
|- train*.py (train your target model.)
|- ...
|- tts/ (text to speech models)
|- layers/ (model layer definitions)
|- models/ (model definitions)
|- utils/ (model specific utilities.)
|- speaker_encoder/ (Speaker Encoder models.)
|- (same)
|- vocoder/ (Vocoder models.)
|- (same)
