p8hub

Hub d'IA privé (P8Hub)

+ Suivez vietanhdev pour les mises à jour du projet.

"Hébergez et utilisez vos propres services d'IA. Gardez tout simple et privé."

À une époque où l’IA transforme tous les aspects de nos vies, j’ai reconnu la nécessité d’une plateforme privée et facile à utiliser où les individus et les petites équipes pourraient héberger et utiliser leurs propres services d’IA. L’inspiration de P8Hub est venue du désir de rendre les technologies d’IA accessibles et privées, en les démocratisant pour tous.

L'architecture de P8Hub se compose de deux composants principaux : un backend FastAPI et un frontend Next.js. Le backend et le frontend communiquent entre eux via l'API REST. Pour faciliter le déploiement, je crée le frontend dans des fichiers statiques et je les sers à partir du backend. L'interaction avec Docker (exécution, arrêt et surveillance des services) se fait via le package Python on Whales.

Caractéristiques

Certaines fonctionnalités sont encore en développement. Vous pouvez vérifier les progrès ici.

• Surveillez les ressources matérielles.
• Gestion des services (démarrage, arrêt/suppression).
• Visionneuse de journaux de service.
• OllamaLLM - Service de chatbot général.
• AI enseignable - Apprenez à l'ordinateur à classer les images - STEAM.
• docTR - Reconnaissance de texte de documents.
• Whishper - Service de synthèse vocale.
• Génération TTS (GPU uniquement)
• Extension Docker.
• Service de génération d'images.
• Ajoutez de la documentation.
• Ajoutez des tests.
• Éditeur d'applications.

Les candidatures n'ont pas été sélectionnées avec soin en raison du temps limité. Je pense que de nombreuses autres applications d'IA intéressantes peuvent être intégrées dans P8Hub. Si vous avez des suggestions, faites-le-moi savoir ou créez une pull request.

I. Installation et utilisation

1.Installation

• Python 3.9 ou supérieur.
• Installez p8hub :

pip install p8hub

2. Utilisation

• Exécutez l'application :

python -m p8hub.app

ou juste :

p8hub

• Accédez à http://localhost:5678/ pour voir l'interface utilisateur.

Vous pouvez également exécuter Private AI Hub publiquement sur votre réseau ou modifier le port avec des paramètres. Exemple:

p8hub --host 0.0.0.0 --port 8080

3. Extension Docker (expérimentale)

Docker Extension permet d'étendre les fonctionnalités de Docker Desktop. Nous avons développé une extension Docker pour P8Hub. Vous pouvez l'installer en exécutant :

make install-extension

Vous devriez voir l'extension dans l'interface utilisateur de Docker Desktop.

II. Développement

1. Clonez le code source

git clone https://github.com/vietanhdev/p8hub
cd p8hub

2. Exécutez votre backend

• Python 3.9 ou supérieur.
• Pour installer à partir des sources, à partir du répertoire de code source p8hub , exécutez :

pip install -e .

• Exécutez l'application :

python -m p8hub.app

• Accédez à http://localhost:5678/ pour voir l'interface utilisateur.

2. Exécutez votre frontend

• Installez les dépendances :

 cd frontend
npm install

• Exécutez l'application :

npm run dev

• Accédez à http://localhost:3000/ pour voir l'interface utilisateur. Utilisez cette adresse pour développer le frontend.

Références

• Modèle suivant : https://github.com/shadcn-ui/next-template.
• PAutoBot : https://github.com/nrl-ai/pautobot.

Ce projet a été créé pour le Docker AI/ML Hackathon 2023.