talkGPT4All

hablarGPT4All

Un chatbot de voz basado en GPT4All y talkGPT.

Demostración en vídeo.

Consulte más detalles en esta publicación de blog (en chino).

Si está buscando la versión anterior de talkGPT4All, consulte la rama dev/v1.0.0.

Instalación

Instalar usando pip (Recomendado)

talkgpt4all está en PyPI, puedes instalarlo usando un simple comando:

pip install talkgpt4all

Instalar desde el código fuente

Clona el código:

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Instale las dependencias y talkGPT4All en un entorno virtual de Python:

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Dependencias adicionales para usuarios de Linux

Usamos pyttsx3 para convertir texto a voz. Tenga en cuenta que en Linux, debe instalar dependencias:

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Uso

Abra una terminal y escriba talkgpt4all para comenzar:

talkgpt4all

Utilice diferentes LLM

Puede elegir diferentes LLM usando --gpt-model-type <type> , todas las opciones disponibles:

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Utilice diferentes modelos de Whisper

Puede elegir el tipo de modelo de susurro usando --whisper-model-type <type> , todas las opciones disponibles:

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Sintonizar velocidad de voz

Puede ajustar la velocidad de la voz usando --voice-rate <rate> , la velocidad predeterminada es 165. Cuanto mayor sea, más rápido hablará.

p.ej,

talkgpt4all --whisper-model-type large --voice-rate 150

Hoja de ruta

• Agregue compilación de código fuente para llama.cpp, con una interfaz más flexible.
• Más LLM
• Agregue soporte para información contextual durante el chat.
• Código de prueba en Linux, Mac Intel y WSL2.
• Agregue soporte para entrada y salida china.
• Agregar documentos y registro de cambios

¡Las contribuciones son bienvenidas!