next gen rag

下一代检索增强一代 (RAG)

介绍

这是一个致力于推进下一代检索增强生成 (RAG) 技术的协作中心。该存储库专注于对 RAG 不断发展的格局的动态探索，旨在发现、开发和分享塑造人工智能驱动的信息检索和生成未来的前沿进展。

目标

该存储库对 RAG 不断发展的格局进行了动态探索，旨在发现、开发和分享塑造人工智能驱动的信息检索和生成未来的前沿进展。

目标

该存储库的主要目标是：

• 创新和探索：通过探索新概念、方法和架构来突破当前 RAG 技术的界限。
• 协作研究：建立一个由研究人员、开发人员和爱好者组成的社区，共同努力推进 RAG 领域的发展。
• 知识共享：作为 RAG 及其应用的最新发展、概念进步和富有洞察力的讨论的综合资源。
• 现实世界的影响：将理论进步转化为实际的解决方案，解决信息检索和文本生成方面的现实挑战。

感兴趣的话题

该存储库重点关注 RAG 和相关领域内的广泛主题，包括但不限于：

• 语义路由
• 知识整合
• 高级查询处理
• 排行
  • 使用大型语言模型进行有效且高效的文本排名的策略
  • 使用直接偏好优化训练 LLM 重排序器
  • 迷失在中间：语言模型如何使用长上下文
    1. 闪光排名
    2. 长上下文检索器
• 安全：
  • （待办事项：添加探索线程）ComPromptMized：释放针对 GenAI 支持的应用程序的零点击蠕虫

存储库结构

• notebooks/ ：包含研究、实验和演示的 Jupyter 笔记本。每个笔记本都独立包含说明和解释。
• docs/ ：有关概念、技术和发现的附加文档。
• data/ ：用于实验的示例数据集（todo：添加数据集）。
• scripts/ ：实用程序脚本和代码片段（todo：添加脚本）。

进行中

• 同类最佳的 ReRanker？使用脆皮混合面包重新排序模型来增强您的搜索

• 俄罗斯套娃嵌入模型

• [qdrant / fastembed] (https://github.com/qdrant/fastembed)

积压

• CohereForAI/c4ai-command-r-v01（Cohere的350亿参数模型）

路线图

• 使用人工反馈的 LLM 重新排序器
• 安全性：Gen-AI 零点击蠕虫
• 少即是多：特别是在准备函数调用数据集的背景下 https://arxiv.org/abs/2305.11206