RAG_QA_LLM

RAG_问答_法学硕士

在此存储库中，我深入研究从自己的数据源创建一个知识共享中心，团队可以使用 RAG 问答技术通过轻松的对话获得见解和答案，并有可能完成在两者之间共享信息的方式小型和大型组织。

简而言之， RAG Q&A （检索增强生成问答）是一个融合了基于检索和基于生成的方法的框架。它使用检索器来查找相关信息，并且通常使用LLM （大型语言模型）作为生成器来创建上下文丰富的答案。根据定义，法学硕士是一种能够理解和生成类人语言的人工智能模型，通过大量文本数据的训练来学习自然语言的模式、结构和上下文。

我使用 Google Colab 的免费Llama-2–7b-chat-hf模型（具有 4 位量化策略）制作了一个笔记本，该模型允许免费运行该软件，另一台笔记本使用OpenAI chat-gpt-3.5-使用 OpenAI 订阅的Turbo LLM 模型。如果您要使用本地版本，请确保安装要求。

对于此用例，从三个不同的数据源检索 Markdown 文档文件：

• 全栈应用程序文档：带有 Markdown 文件的详细记录的个人项目。
• 短 SQL 表描述：记录一些短 SQL 表的存储库。
• 演示融合空间：公共演示融合空间。聊天机器人以 Markdown 格式抓取数据。

选择这些文档是因为它们是组织记录和保存项目知识的典型方式。

最终的聊天机器人准确地提取知识，提供简洁且相关的答案，同时链接其使用的文档。