p8hub

Privater KI-Hub (P8Hub)

+ Folgen Sie vietanhdev für Projektaktualisierungen.

„Hosten und nutzen Sie Ihre eigenen KI-Dienste. Halten Sie alles einfach und privat.“

In einer Zeit, in der KI jeden Aspekt unseres Lebens verändert, erkannte ich den Bedarf an einer privaten und benutzerfreundlichen Plattform, auf der Einzelpersonen und kleine Teams ihre eigenen KI-Dienste hosten und nutzen können. Die Inspiration für P8Hub entstand aus dem Wunsch, KI-Technologien zugänglich und privat zu machen und sie für alle zu demokratisieren.

Die Architektur von P8Hub besteht aus zwei Hauptkomponenten: einem FastAPI-Backend und einem Next.js-Frontend. Backend und Frontend kommunizieren über die REST-API miteinander. Um die Bereitstellung zu vereinfachen, baue ich das Frontend in statische Dateien ein und stelle sie über das Backend bereit. Die Interaktion mit Docker (Ausführen, Stoppen und Überwachen von Diensten) erfolgt über das Python on Whales-Paket.

Merkmale

Einige Funktionen befinden sich noch in der Entwicklung. Sie können den Fortschritt hier überprüfen.

• Überwachen Sie Hardwareressourcen.
• Dienstverwaltung (Starten, Stoppen/Löschen).
• Serviceprotokoll-Viewer.
• OllamaLLM – Allgemeiner Chatbot-Dienst.
• Lernbare KI – Bringen Sie dem Computer bei, Bilder zu klassifizieren – STEAM.
• docTR – Dokumenttexterkennung.
• Whisper – Text-to-Speech-Dienst.
• TTS-Generierung (nur GPU)
• Docker-Erweiterung.
• Bildgenerierungsdienst.
• Dokumentation hinzufügen.
• Tests hinzufügen.
• App-Editor.

Die Bewerbungen wurden aufgrund der begrenzten Zeit nicht sorgfältig ausgewählt. Ich denke, dass noch viele weitere interessante KI-Anwendungen in P8Hub integriert werden können. Wenn Sie Vorschläge haben, lassen Sie es mich bitte wissen oder erstellen Sie eine Pull-Anfrage.

I. Installation und Nutzung

1. Installation

• Python 3.9 oder höher.
• Installieren Sie p8hub :

pip install p8hub

2. Nutzung

• Führen Sie die App aus:

python -m p8hub.app

oder einfach:

p8hub

• Gehen Sie zu http://localhost:5678/, um die Benutzeroberfläche anzuzeigen.

Sie können Private AI Hub auch öffentlich in Ihrem Netzwerk ausführen oder den Port mit Parametern ändern. Beispiel:

p8hub --host 0.0.0.0 --port 8080

3. Docker-Erweiterung (experimentell)

Mit der Docker-Erweiterung können Sie die Funktionalität von Docker Desktop erweitern. Wir haben eine Docker-Erweiterung für P8Hub entwickelt. Sie können es installieren, indem Sie Folgendes ausführen:

make install-extension

Sie sollten die Erweiterung in der Benutzeroberfläche von Docker Desktop sehen.

II. Entwicklung

1. Klonen Sie den Quellcode

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. Führen Sie Ihr Backend aus

• Python 3.9 oder höher.
• Um von der Quelle zu installieren, führen Sie im p8hub Quellcodeverzeichnis Folgendes aus:

pip install -e .

• Führen Sie die App aus:

python -m p8hub.app

• Gehen Sie zu http://localhost:5678/, um die Benutzeroberfläche anzuzeigen.

2. Führen Sie Ihr Frontend aus

• Installieren Sie die Abhängigkeiten:

 cd frontend
npm install

• Führen Sie die App aus:

npm run dev

• Gehen Sie zu http://localhost:3000/, um die Benutzeroberfläche anzuzeigen. Verwenden Sie diese Adresse, um das Frontend zu entwickeln.

Referenzen

• Nächste Vorlage: https://github.com/shadcn-ui/next-template.
• PAutoBot: https://github.com/nrl-ai/pautobot.

Dieses Projekt wurde für den Docker AI/ML Hackathon 2023 erstellt.