lagoon

Лагуна

Простой инструмент поиска документов GitHub на базе Supabase и llama2.

Начиная

Реагировать на приложение

• Создайте учетную запись superbase и настройте новый проект.
• Используйте файл supabase.sql для создания схемы базы данных.
• Создайте файл .env в корне проекта и добавьте следующие переменные:

 VITE_SUPABASE_URL=<supabase url>
VITE_SUPABASE_KEY=<supabase key>

• Запустите yarn , чтобы установить зависимости
• Запустите yarn dev , чтобы запустить сервер разработки.

API вывода Python

• cd inference-server
• Создайте виртуальную среду python3 -m venv venv
• Активируйте source venv/bin/activate
• Установить зависимости pip install -r requirements.txt
• Запустите серверный python inference.py

Первый запуск займет несколько минут, чтобы загрузить модель и загрузить ее в память.

Демо