简化矫正抹布下载 - 简化矫正抹布源码下载

简化的矫正抹布

其他源码

1.0.0

下载

使用 Amazon Bedrock 构建简化的 Corrective RAG 助手

概述

Amazon Bedrock 是一项完全托管的服务，可通过统一的 API 提供来自领先 AI 初创公司和 Amazon 的高性能基础模型 (FM) 供您使用。您可以从多种基础模型中进行选择，找到最适合您的用例的模型。 Amazon Bedrock 还提供了一系列广泛的功能来构建具有安全性、隐私性和负责任的 AI 的生成式 AI 应用程序。使用 Amazon Bedrock，您可以轻松试验和评估适合您用例的顶级基础模型，使用微调和检索增强生成 (RAG) 等技术使用您的数据私下自定义它们，并构建使用您的企业系统执行任务的代理和数据源。

大型语言模型（LLM）不可避免地会出现幻觉，因为生成文本的准确性不能仅通过它们封装的参数知识来保证。尽管检索增强生成（RAG）是法学硕士的实用补充，但它在很大程度上依赖于检索到的文档的相关性，这引发了人们对检索出错时模型如何表现的担忧。

提出了纠正 RAG 等先进的 RAG 技术来提高生成的鲁棒性。在 CRAG 中，设计了一个轻量级检索评估器来评估查询检索到的文档的整体质量，返回一个置信度，根据该置信度可以触发不同的知识检索操作。由于从静态和有限的语料库中检索只能返回次优文档，因此大规模网络搜索被用作增强检索结果的扩展。 CRAG 是即插即用的，可以与各种基于 RAG 的方法无缝耦合。

该存储库包含的代码将引导您完成构建基于 CRAG 的简化助手的过程。我们将介绍检索阶段的两种场景：

（场景 1）知识库中存在与指定查询密切匹配的文档。
（场景 2）知识库中没有与指定查询密切匹配的文档。结果，将执行网络搜索来检索匹配的文档。

开始使用

选择要使用的 AWS 账户并确保在该账户中创建所有资源。
确定具有 Amazon Bedrock 和 Anthropic Claude 3 和 Titan Embeddings G1 - 文本模型的 AWS 区域。
在该区域中，将以下文件复制到您选择的新的或现有的 Amazon S3 存储桶。确保 AWS CloudFormation 可以读取此存储桶。
- wikipedia_search_bedrock_agent.zip
使用以下过程创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的 Lambda 层文件，并将其上传到与步骤 3 中相同的 Amazon S3 存储桶。
- 在 Windows 10 或更高版本上：
  1. 确保 Python 3.12 和 pip 已安装并在用户的 PATH 变量中设置。
  2. 下载 7-zip 并将其安装在C:/Program Files/7-Zip/中。
  3. 打开 Windows 命令提示符。
  4. 创建一个新目录并cd其中。
  5. 从该目录内部运行 lambda_layer_file_create.bat。
  6. 这将创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的 Lambda 层文件。
- 在 Linux 上：
  1. 确保 Python 3.12 和 pip 已安装并在用户的 PATH 变量中设置。
  2. 打开 Linux 命令提示符。
  3. 创建一个新目录并cd其中。
  4. 从该目录内部运行 lambda_layer_file_create.sh。
  5. 这将创建名为py312_opensearch-py_requests_and_requests-aws4auth.zip的 Lambda 层文件。
使用提供的 AWS CloudFormation 模板 simple- Corrective-rag-cfn.yaml 并更新以下参数，
- DeploymentArtifactsS3BucketName - 将其设置为步骤 3 中的 Amazon S3 存储桶的名称。
使用更新后的模板创建 AWS CloudFormation 堆栈。
通过导航到 Amazon SageMaker 笔记本实例控制台并单击名为simple-crag-instance的实例上的Open Jupyter链接，打开名为simple- Corrective-rag.ipynb的 Jupyter 笔记本。