talkGPT4All

talkGPT4All

Ein Sprach-Chatbot basierend auf GPT4All und talkGPT.

Videodemo.

Weitere Einzelheiten finden Sie in diesem Blogbeitrag (auf Chinesisch).

Wenn Sie nach der älteren Version von talkGPT4All suchen, gehen Sie bitte zum Zweig dev/v1.0.0.

Installation

Installation mit pip (empfohlen)

talkgpt4all ist auf PyPI, Sie können es mit einem einfachen Befehl installieren:

pip install talkgpt4all

Vom Quellcode installieren

Klonen Sie den Code:

git clone https://github.com/vra/talkGPT4All.git < ROOT >

Installieren Sie die Abhängigkeiten und talkGPT4All in einer virtuellen Python-Umgebung:

 cd < ROOT >
python -m venv talkgpt4all
source talkgpt4all/bin/activate
pip install -U pip
pip install -r requirements.txt

Zusätzliche Abhängigkeiten für Linux-Benutzer

Wir verwenden pyttsx3, um Text in Sprache umzuwandeln. Bitte beachten Sie, dass unter Linux Abhängigkeiten installiert werden müssen:

sudo apt update && sudo apt install -y espeak ffmpeg libespeak1

Verwendung

Öffnen Sie ein Terminal und geben Sie talkgpt4all ein, um zu beginnen:

talkgpt4all

Verwenden Sie verschiedene LLMs

Sie können mit --gpt-model-type <type> verschiedene LLMs auswählen, alle verfügbaren Optionen:

{
"ggml-gpt4all-j-v1.3-groovy"
"ggml-gpt4all-j-v1.2-jazzy"
"ggml-gpt4all-j-v1.1-breezy"
"ggml-gpt4all-j"
"ggml-gpt4all-l13b-snoozy"
"ggml-vicuna-7b-1.1-q4_2"
"ggml-vicuna-13b-1.1-q4_2"
"ggml-wizardLM-7B.q4_2"
}

Nutzen Sie verschiedene Whisper-Modelle

Sie können den Whisper-Modelltyp mit --whisper-model-type <type> auswählen. Alle verfügbaren Optionen sind:

{
"tiny.en"
"tiny"
"base.en"
"base"
"small.en"
"small"
"medium.en"
"medium"
"large-v1"
"large-v2"
"large"
}

Stimmgeschwindigkeit anpassen

Sie können die Sprachrate mit --voice-rate <rate> anpassen. Die Standardrate ist 165. Je größer, desto schneller wird gesprochen.

z.B,

talkgpt4all --whisper-model-type large --voice-rate 150

RoadMap

• Quellerstellung für llama.cpp mit flexiblerer Schnittstelle hinzufügen.
• Weitere LLMs
• Fügen Sie Unterstützung für Kontextinformationen während des Chats hinzu.
• Testcode auf Linux, Mac Intel und WSL2.
• Unterstützung für chinesische Ein- und Ausgabe hinzufügen.
• Fügen Sie Dokumente und Änderungsprotokoll hinzu

Beiträge sind willkommen!