chiffon correcteur simplifié

Créez un assistant RAG correctif simplifié avec Amazon Bedrock

Aperçu

Amazon Bedrock est un service entièrement géré qui met à votre disposition des modèles de base (FM) hautes performances provenant de startups d'IA de premier plan et d'Amazon via une API unifiée. Vous pouvez choisir parmi une large gamme de modèles de fondation pour trouver le modèle le mieux adapté à votre cas d’utilisation. Amazon Bedrock offre également un large éventail de fonctionnalités pour créer des applications d'IA générative avec sécurité, confidentialité et IA responsable. Grâce à Amazon Bedrock, vous pouvez facilement expérimenter et évaluer les meilleurs modèles de base pour vos cas d'utilisation, les personnaliser en privé avec vos données à l'aide de techniques telles que le réglage fin et la génération augmentée de récupération (RAG), et créer des agents qui exécutent des tâches à l'aide de vos systèmes d'entreprise. et les sources de données.

Les grands modèles linguistiques (LLM) présentent inévitablement des hallucinations puisque l'exactitude des textes générés ne peut être garantie uniquement par les connaissances paramétriques qu'ils encapsulent. Bien que la génération augmentée de récupération (RAG) soit un complément pratique aux LLM, elle repose fortement sur la pertinence des documents récupérés, ce qui soulève des inquiétudes quant au comportement du modèle en cas d'échec de la récupération.

Des techniques RAG avancées comme Corrective RAG ont été proposées pour améliorer la robustesse de la génération. Dans CRAG, un évaluateur de récupération léger est conçu pour évaluer la qualité globale des documents récupérés pour une requête, renvoyant un degré de confiance sur la base duquel différentes actions de récupération de connaissances peuvent être déclenchées. Étant donné que la récupération à partir de corpus statiques et limités ne peut renvoyer que des documents sous-optimaux, les recherches sur le Web à grande échelle sont utilisées comme extension pour augmenter les résultats de récupération. CRAG est plug-and-play et peut être couplé de manière transparente à diverses approches basées sur RAG.

Ce référentiel contient du code qui vous guidera tout au long du processus de création d'un assistant simplifié basé sur CRAG. Nous couvrirons deux scénarios pour la phase de récupération :

1. (Scénario 1) Un document qui correspond étroitement à la requête spécifiée se trouve dans la base de connaissances.
2. (Scénario 2) Un document qui correspond étroitement à la requête spécifiée ne se trouve pas dans la base de connaissances. En conséquence, une recherche sur le Web sera effectuée pour récupérer le(s) document(s) correspondant(s).

Pour commencer

1. Choisissez un compte AWS à utiliser et assurez-vous de créer toutes les ressources dans ce compte.
2. Identifiez une région AWS comportant Amazon Bedrock avec Anthropic Claude 3 et Titan Embeddings G1 - Modèles de texte.
3. Dans cette région, copiez le fichier suivant dans un compartiment Amazon S3 nouveau ou existant de votre choix. Assurez-vous que ce compartiment peut être lu par AWS CloudFormation.
   • wikipedia_search_bedrock_agent.zip
4. Créez le fichier de couche Lambda nommé py312_opensearch-py_requests_and_requests-aws4auth.zip à l'aide de la procédure suivante et téléchargez-le dans le même compartiment Amazon S3 qu'à l'étape 3.
   • Sous Windows 10 ou supérieur :
     1. Assurez-vous que Python 3.12 et pip sont installés et définis dans la variable PATH de l'utilisateur.
     2. Téléchargez 7-zip et installez-le dans C:/Program Files/7-Zip/ .
     3. Ouvrez l'invite de commande Windows.
     4. Créez un nouveau répertoire et cd y.
     5. Exécutez lambda_layer_file_create.bat depuis l'intérieur de ce répertoire.
     6. Cela créera le fichier de couche Lambda nommé py312_opensearch-py_requests_and_requests-aws4auth.zip .
   • Sous Linux :
     1. Assurez-vous que Python 3.12 et pip sont installés et définis dans la variable PATH de l'utilisateur.
     2. Ouvrez l'invite de commande Linux.
     3. Créez un nouveau répertoire et cd y.
     4. Exécutez lambda_layer_file_create.sh depuis l'intérieur de ce répertoire.
     5. Cela créera le fichier de couche Lambda nommé py312_opensearch-py_requests_and_requests-aws4auth.zip .
5. Prenez le modèle AWS CloudFormation fourni simplifié-corrective-rag-cfn.yaml et mettez à jour le paramètre suivant :
   • DeploymentArtifactsS3BucketName : définissez-le sur le nom du compartiment Amazon S3 de l'étape 3.
6. Créez une pile AWS CloudFormation avec le modèle mis à jour.
7. Ouvrez le bloc-notes Jupyter nommé simplifié-corrective-rag.ipynb en accédant à la console des instances de bloc-notes Amazon SageMaker et en cliquant sur le lien Ouvrir Jupyter sur l'instance nommée simplifié-crag-instance .

Structure du référentiel

• Un dossier d'actifs qui contient le modèle AWS CloudFormation et les artefacts dépendants.
• Le code Python d'une fonction AWS Lambda qui sera invoquée par l'agent Bedrock pour effectuer la recherche sur le Web. Ceci est également compressé dans ce fichier en tant qu'artefact dépendant.
• Un dossier notebooks qui contient tous les artefacts liés au notebook Jupyter sur lequel vous allez travailler.

Sécurité

Voir CONTRIBUTION pour plus d'informations.

Licence

Cette bibliothèque est sous licence MIT-0. Voir le fichier LICENCE.