lagoon

Lagune

Un outil de recherche simple pour les documents github alimenté par supabase et llama2

Commencer

Application Réagir

• Créez un compte supabase et configurez un nouveau projet
• Utilisez le fichier supabase.sql pour créer le schéma de base de données
• Créez un fichier .env à la racine du projet et ajoutez les variables suivantes :

 VITE_SUPABASE_URL=<supabase url>
VITE_SUPABASE_KEY=<supabase key>

• Exécutez yarn pour installer les dépendances
• Exécutez yarn dev pour démarrer le serveur de développement

API d'inférence Python

• cd inference-server
• Créer un environnement virtuel python3 -m venv venv
• Activer la source venv/bin/activate
• Installer les dépendances pip install -r requirements.txt
• Exécutez le serveur python inference.py

Le premier démarrage prendra quelques minutes pour télécharger le modèle et le charger en mémoire

Démo