rag arena下載 - rag arena原始碼下載

rag arena

Ai源碼

1.0.0

下載

拉格競技場

RAG Arena 是一個開源 Next.js 項目，由我的 mendable.ai 製作，它與 LangChain 交互，提供 RAG 聊天機器人體驗，其中查詢會收到多個回應。用戶對這些回應進行投票，然後將其清晰地顯示所使用的檢索器，透過資料 RAG 方法來區分聊天機器人。該專案利用 Supabase 進行資料庫操作，並具有顯示資料庫資料的即時排行榜。

安裝

確保您的系統上安裝了pnpm 。如果沒有，請透過以下方式安裝：

npm install -g pnpm

克隆專案儲存庫：

git clone https://github.com/mendableai/rag-arena

導航至專案目錄並安裝依賴項：

 cd RAG-arena
pnpm i

配置您的環境變數：

 # probably in: https://platform.openai.com/api-keys
OPENAI_API_KEY=

# probably in: https://supabase.com/dashboard/ project>project settings>api
NEXT_PUBLIC_SUPABASE_URL=
NEXT_PUBLIC_SUPABASE_PRIVATE_KEY=

# probably in: https://console.upstash.com/redis/
UPSTASH_REDIS_REST_URL=
UPSTASH_REDIS_REST_TOKEN=

PRODUCTION=false

PYTHON_MICRO_SERVER=

啟動開發（nextjs）Web伺服器：

pnpm dev

運行 python 伺服器

 cd python_service

poetry install

*（如果你沒有詩歌，只需使用 pip install詩添加 id）

激活 Neo4j 圖表存儲

對於 Graph Rag 檢索器，您需要建立圖形存儲，或透過取消註解以下行讓伺服器自動執行「create_neo4j_graph_store」函數（本地化在/python_service/retrievers/neo4j_retriever.py中）：

 # if not os.path.exists(storage_dir) or not os.listdir(storage_dir):
# create_neo4j_graph_store()

這將需要一段時間，具體取決於data/chunks中使用的資料。最後，您的neo/storage目錄將填入本地圖形儲存的持久性資料。

首次載入索引

您將需要載入並快取索引，以便可以使用 Graph RAG。 load_index()函數在python_service/app.py中為您執行此操作。因此，在第一次執行時，可能需要一段時間才能建立放置在python_service/index/cache中的快取 .pkl 檔案。

以調試模式在本地運行 Flask 伺服器

poetry run flask run --debug

用瀏覽器開啟http://localhost:3000查看結果。

架構概述

攝取系統

路徑： app/api/ingest/route.ts
描述：此模組負責將文章提取到向量資料庫中，以便將來查詢時可以檢索它們。
實施細節：
- Splitter：利用 LangChain 的RecursiveCharacterTextSplitter進行有效的文字分割。
- 嵌入：利用OpenAIEmbeddings產生文件嵌入。
- 儲存：使用SupabaseVectorStore將處理後的文件儲存在Supabase中。

動態檢索器

路徑： app/api/retrievers/dynamic-retriever/route.ts
描述：根據使用者輸入動態選擇並使用不同的檢索器來取得相關文件。
主要特點：
- 速率限制：實施速率限制來管理負載並確保公平使用。
- 文件 RAG：檢索與使用者查詢最相關的文件。
- OpenAI 整合：與 OpenAI 的 API 互動以增強聊天完成度，由 SupabaseVectorStore 提供支援以進行文件匹配。

投票系統

路徑： actions/voting-system.ts
目的：監督對檢索到的答案進行投票背後的邏輯，這對於系統的學習和適應至關重要。
功能：
- 投票追蹤：更新每隻獵犬的投票數、測試次數和 Elo 評級。
- Elo 調整：根據獵犬測試的平均次數調整 Elo 評級，提高公平性和準確性。

 // calculation used for the elo
function calculateEloAdjustment(timesTested: number, averageTimesTested: number): number {
    if (averageTimesTested === 0) return 10;
    const adjustmentFactor = timesTested / averageTimesTested;
    return (1 / adjustmentFactor) * 10;
}