next gen rag

下一代檢索增強世代 (RAG)

介紹

這是一個致力於推進下一代檢索增強生成 (RAG) 技術的協作中心。該儲存庫專注於對 RAG 不斷發展的格局的動態探索，旨在發現、開發和分享塑造人工智慧驅動的資訊檢索和生成未來的前沿進展。

目標

該儲存庫對 RAG 不斷發展的格局進行了動態探索，旨在發現、開發和分享塑造人工智慧驅動的資訊檢索和產生未來的前沿進展。

目標

該存儲庫的主要目標是：

• 創新與探索：透過探索新概念、方法和架構來突破當前 RAG 技術的界限。
• 協作研究：建立一個由研究人員、開發人員和愛好者組成的社區，共同努力推動 RAG 領域的發展。
• 知識共享：作為 RAG 及其應用的最新發展、概念進步和富有洞察力的討論的綜合資源。
• 現實世界的影響：將理論進步轉化為實際的解決方案，解決資訊檢索和文本生成的現實挑戰。

有興趣的話題

此儲存庫重點關注 RAG 和相關領域內的廣泛主題，包括但不限於：

• 語意路由
• 知識整合
• 進階查詢處理
• 排行
  • 使用大型語言模型進行有效且高效的文字排名的策略
  • 使用直接偏好優化訓練 LLM 重新排序器
  • 迷失在中間：語言模型如何使用長上下文
    1. 閃光排名
    2. 長上下文檢索器
• 安全：
  • （待辦事項：新增探索線程）ComPromptMized：釋放針對 GenAI 支援的應用程式的零點擊蠕蟲

儲存庫結構

• notebooks/ ：包含研究、實驗和示範的 Jupyter 筆記本。每個筆記本都獨立包含說明和解釋。
• docs/ ：有關概念、技術和發現的附加文件。
• data/ ：用於實驗的範例資料集（todo：新增資料集）。
• scripts/ ：實用程式腳本和程式碼片段（todo：新增腳本）。

進行中

• 同類最佳的 ReRanker？使用脆皮混合麵包重新排序模型來增強您的搜索

• 俄羅斯娃娃嵌入模型

• [qdrant / fastembed] (https://github.com/qdrant/fastembed)

積壓

• CohereForAI/c4ai-command-r-v01（Cohere的350億參數模型）

路線圖

• 使用人工回饋的 LLM 重新排序器
• 安全性：Gen-AI 零點擊蠕蟲
• 少即是多：特別是在準備函數呼叫資料集的背景下 https://arxiv.org/abs/2305.11206