lagoon

라군

supabase 및 llama2를 기반으로 하는 github 문서에 대한 간단한 검색 도구

시작하기

리액트 앱

• supabase 계정 생성 및 새 프로젝트 설정
• supabase.sql 파일을 사용하여 데이터베이스 스키마 생성
• 프로젝트 루트에 .env 파일을 만들고 다음 변수를 추가합니다.

 VITE_SUPABASE_URL=<supabase url>
VITE_SUPABASE_KEY=<supabase key>

• yarn 실행하여 종속 항목 설치
• 개발 서버를 시작하려면 yarn dev 실행하세요.

Python 추론 API

• cd inference-server
• 가상 환경 만들기 python3 -m venv venv
• 가상 환경 source venv/bin/activate 활성화
• 종속성 설치 pip install -r requirements.txt
• 서버 python inference.py 실행

처음 시작할 때 모델을 다운로드하고 메모리에 로드하는 데 몇 분이 걸립니다.

데모