talkGPT4All

talkGPT4All

Un chatbot vocal basé sur GPT4All et talkGPT.

Démo vidéo.

Veuillez vérifier plus de détails dans cet article de blog (en chinois).

Si vous recherchez l’ancienne version de talkGPT4All, veuillez consulter la branche dev/v1.0.0.

Installation

Installer en utilisant pip (recommandé)

talkgpt4all est sur PyPI, vous pouvez l'installer en utilisant une simple commande :

pip install talkgpt4all

Installer à partir du code source

Clonez le code :

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Installez les dépendances et talkGPT4All dans un environnement virtuel python :

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Dépendances supplémentaires pour les utilisateurs Linux

Nous utilisons pyttsx3 pour convertir du texte en voix. Veuillez noter que sous Linux, vous devez installer les dépendances :

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Usage

Ouvrez un terminal et tapez talkgpt4all pour commencer :

talkgpt4all

Utiliser différents LLM

Vous pouvez choisir différents LLM en utilisant --gpt-model-type <type> , tous les choix disponibles :

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Utilisez différents modèles Whisper

Vous pouvez choisir le type de modèle murmuré en utilisant --whisper-model-type <type> , tous les choix disponibles :

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Régler le débit vocal

Vous pouvez régler le débit vocal en utilisant --voice-rate <rate> , le débit par défaut est de 165. plus la parole est grande, plus vite.

par exemple,

talkgpt4all --whisper-model-type large --voice-rate 150

Feuille de route

• Ajoutez la création de sources pour lama.cpp, avec une interface plus flexible.
• Plus de LLM
• Ajoutez la prise en charge des informations contextuelles pendant la conversation.
• Testez le code sur Linux, Mac Intel et WSL2.
• Ajoutez la prise en charge de l'entrée et de la sortie du chinois.
• Ajouter des documents et un journal des modifications

les contributions sont les bienvenues !