nextjs fastapi your chat

Next.js + FastAPI: แชทกับเว็บไซต์ของคุณ

แอปพลิเคชันนี้อำนวยความสะดวกให้กับแชทบอทโดยใช้ประโยชน์จาก Next.js เป็นส่วนหน้าและ FastAPI เป็นแบ็คเอนด์ โดยใช้พลังของ LangChain สำหรับการโต้ตอบบนเว็บแบบไดนามิก

คุณสมบัติของแอปไฮบริด

• การโต้ตอบบนเว็บผ่าน LangChain : ใช้เวอร์ชันล่าสุดของ LangChain เพื่อการโต้ตอบและการดึงข้อมูลจากเว็บไซต์อย่างมีประสิทธิภาพ
• การบูรณาการโมเดลภาษาที่หลากหลาย : นำเสนอความเข้ากันได้กับโมเดลต่างๆ รวมถึง GPT-4 ผู้ใช้สามารถสลับระหว่างรุ่นต่างๆ ตามความต้องการได้อย่างง่ายดาย
• ส่วนหน้า Next.js ที่ใช้งานง่าย : อินเทอร์เฟซใช้งานง่ายและสามารถเข้าถึงได้สำหรับผู้ใช้ที่มีพื้นฐานทางเทคนิคทั้งหมด

กลศาสตร์การดำเนินงาน

แอปพลิเคชันจะรวมเซิร์ฟเวอร์ Python/FastAPI เข้ากับแอป Next.js ภายใต้เส้นทาง /api/ ซึ่งสามารถทำได้โดยการเขียน next.config.js ใหม่ โดยกำหนดทิศทางคำขอ /api/:path* ใดๆ ไปยังเซิร์ฟเวอร์ FastAPI ที่อยู่ในโฟลเดอร์ /api ภายในเครื่อง FastAPI ทำงานบน 127.0.0.1:8000 ในขณะที่ใช้งานจริง FastAPI ทำงานเป็นฟังก์ชันไร้เซิร์ฟเวอร์บน Vercel

การตั้งค่าแอปพลิเคชัน

1. ติดตั้งการพึ่งพา:

   npm install

2. สร้างไฟล์ .env ด้วยคีย์ OpenAI API ของคุณ:

    OPENAI_API_KEY=[your-openai-api-key]
   

3. เริ่มเซิร์ฟเวอร์การพัฒนา:

   npm run dev

4. เข้าถึงแอปพลิเคชันได้ที่ http://localhost:3000 เซิร์ฟเวอร์ FastAPI ทำงานบน http://127.0.0.1:8000

สำหรับการทดสอบแบ็กเอนด์เท่านั้น:

conda create --name nextjs-fastapi-your-chat python=3.10
conda activate nextjs-fastapi-your-chat
pip install -r requirements.txt
uvicorn api.index:app --reload

การรักษาประวัติการแชท (รายการสิ่งที่ต้องทำ)

ตัวเลือกสำหรับการเก็บประวัติการแชทได้แก่:

• ตัวแปรโกลบอล : เรียบง่ายแต่ไม่เหมาะสำหรับความสามารถในการขยายขนาดและความสม่ำเสมอ
• ฐานข้อมูล/แคชในหน่วยความจำ : โซลูชันที่ปรับขนาดได้ เช่น Redis สำหรับจัดเก็บประวัติการแชท
• การจัดเก็บฐานข้อมูล : วิธีการที่แข็งแกร่งและต่อเนื่อง เหมาะสำหรับสภาพแวดล้อมการผลิต

ทำความเข้าใจอัลกอริทึม RAG

RAG (Retrieval Augmented Generation) ปรับปรุงโมเดลภาษาด้วยบริบทที่ดึงมาจากฐานความรู้ที่กำหนดเอง กระบวนการนี้เกี่ยวข้องกับการดึงเอกสาร HTML แบ่งออกเป็นส่วนๆ และทำเวกเตอร์ส่วนต่างๆ เหล่านี้โดยใช้โมเดลการฝังเช่น OpenAI ข้อมูลเวกเตอร์นี้สร้างที่เก็บเวกเตอร์ ซึ่งช่วยให้สามารถค้นหาความหมายตามคำค้นหาของผู้ใช้ จากนั้นส่วนที่เกี่ยวข้องที่ดึงข้อมูลมาจะถูกใช้เป็นบริบทสำหรับโมเดลภาษา เพื่อสร้างคำตอบที่ครอบคลุมต่อการสอบถามของผู้ใช้

การใช้การดึงบริบท

ฟังก์ชัน get_vectorstore_from_url แยกและประมวลผลข้อความจาก URL ที่กำหนด ในขณะที่ get_context_retriever_chain จะสร้างสายโซ่ที่ดึงบริบทที่เกี่ยวข้องกับประวัติการสนทนาทั้งหมด วิธีการไปป์ไลน์นี้ช่วยให้แน่ใจว่าการตอบสนองมีการรับรู้ตามบริบทและถูกต้องแม่นยำ

แรงบันดาลใจและการอ้างอิง

• สนทนากับเว็บไซต์
• ถัดไป13-ai-saas