nextjs fastapi your chat
1.0.0
該應用程式利用 Next.js 作為前端,FastAPI 作為後端,利用 LangChain 的功能進行動態 Web 交互,從而促進聊天機器人的發展。
該應用程式將 Python/FastAPI 伺服器整合到/api/
路徑下的 Next.js 應用程式中。這是透過重寫next.config.js
來實現的,將任何/api/:path*
請求定向到位於/api
資料夾中的 FastAPI 伺服器。在本地,FastAPI 在127.0.0.1:8000
上運行,而在生產中,它在 Vercel 上作為無伺服器功能運行。
npm install
.env
檔: OPENAI_API_KEY=[your-openai-api-key]
npm run dev
對於僅後端測試:
conda create --name nextjs-fastapi-your-chat python=3.10
conda activate nextjs-fastapi-your-chat
pip install -r requirements.txt
uvicorn api.index:app --reload
保留聊天歷史記錄的選項包括:
RAG(檢索增強生成)透過從自訂知識庫檢索上下文來增強語言模型。該過程包括獲取 HTML 文檔,將它們分割成區塊,並使用 OpenAI 等嵌入模型對這些區塊進行向量化。這種向量化資料形成向量存儲,從而實現基於使用者查詢的語義搜尋。然後,檢索到的相關區塊將用作語言模型的上下文,形成對使用者查詢的全面回應。
get_vectorstore_from_url
函數從給定 URL 中提取並處理文本,而get_context_retriever_chain
形成一個鏈,用於檢索與整個對話歷史記錄相關的上下文。這種管道方法可確保響應具有上下文意識且準確。