NED Admission LLM Chatbot FYP

NED 大學招生 ChatBot

大學招生聊天機器人是一個有用的工具，旨在透過使用最先進的語言模型和向量儲存來回答大學招生期間的一般學生問題來提供幫助和資訊。

發現問題：

在大學招生期間處理大量詢問可能會讓工作人員不堪重負，並顯著減慢回應時間。許多學生尋求一般信息，這可能會導致延誤，因為工作人員手動解決重複的查詢。這種低效率不僅會導致資源緊張，還會對使用者體驗產生負面影響。為了應對這些挑戰，我們正在開發一款大學招生聊天機器人，它利用生成式人工智慧和先進的語言模型來提供即時、準確的回應，簡化招生過程，並減少大學工作人員的工作量。

角色和職責：

• 開發了一個大學招生聊天機器人，使用大型語言模型和向量儲存來協助學生查詢、招生流程和指南。
• 利用最先進的 LLM（Llama3、Gemini Pro、GPT-4o）並整合 LangChain 和 FastAPI 來實現後端功能，並在 Next.js 中建立前端。
• 實作了一個具有聊天記錄保存和檢索功能的身份驗證系統。
• 創建了一個基於 FastAPI 的 API，具有強大的端點，用於用戶身份驗證、聊天機器人互動和管理操作，包括資料嵌入和 CRUD 功能。
• 建立了一個文件嵌入系統，允許管理員在向量資料庫中新增、刪除和更新資料文件，確保資料是最新且正確的。
• 使用 LangChain、PineCone、AWS RDS 和 S3 Buckets 部署基礎設施，以確保可擴展性和穩健性。
• 在 Next.js 上建立了一個用戶友好的前端，具有輕鬆用戶體驗的不同功能。

產品影響：

透過有效處理大量詢問、透過即時回應簡化流程、減少員工工作量並提高機構在技術創新方面的聲譽，改變了大學招生流程。

先決條件

在開始使用 ChatBot 之前，請確保您的系統上安裝了以下先決條件：

• Python 3.9 或更高版本
• 所需的Python套件（所有套件都在requirement.txt中）

供電：

• 朗查恩
• 松果
• AWS RDS 和 S3 儲存桶
• 快速API

安裝

1. 將此儲存庫複製到您的本機電腦。

2. 建立Python虛擬環境（可選但建議）：

   python -m venv venv
   source venv/bin/activate  # On Windows, use: venvScriptsactivate.bat

3. 安裝所需的 Python 套件：

   pip install -r requirements.txt

4. 建立 .env 檔案用於建立環境變數。

5. 在文件中新增您的 Google、Groq API 或 OpenAI 鍵變數。您可以從這裡取得您的 API 金鑰

• 對於 Google API 金鑰：https://makersuite.google.com/app/apikey

• 對於 Groq API 金鑰：https://console.groq.com/playground

  GOOGLE_API_KEY= " Insert your google API key here "
  GROQ_API_KEY = ' Insert your Groq Api here '
  OPENAI_API_KEY = ' Insert your OpenAI Api here ' 

在本機伺服器上執行 API

1. 在根資料夾中開啟cmd並編寫此命令來運行即時伺服器。

   uvicorn main:app --reload

API端點

• /docs -> 用於存取 Swagger