lagoon

潟湖

一個簡單的 github 文件搜尋工具，由 supabase 和 llama2 提供支援

入門

反應應用程式

• 建立一個 supabase 帳戶並設定一個新項目
• 使用supabase.sql檔案建立資料庫模式
• 在專案根目錄中建立一個.env檔案並新增以下變數：

 VITE_SUPABASE_URL=<supabase url>
VITE_SUPABASE_KEY=<supabase key>

• 運行yarn來安裝依賴項
• 運行yarn dev來啟動開發伺服器

Python 推理 API

• cd inference-server
• 建立虛擬環境python3 -m venv venv
• 啟動虛擬環境source venv/bin/activate
• 安裝依賴項pip install -r requirements.txt
• 運行伺服器python inference.py

第一次啟動需要幾分鐘時間來下載模型並將其載入到記憶體中

示範