AWS LLM SageMaker

AWS-LLM-SageMaker

Cet atelier pratique destiné aux développeurs et aux créateurs de solutions explique comment exploiter les modèles Foundation (FM) avec Amazon SageMaker.

Dans cet atelier, nous vous montrerons certains des modèles d'utilisation de l'IA générative les plus populaires de nos clients et des exemples de technologies qui utilisent GenAI pour générer de la valeur pour leurs organisations en améliorant la productivité.
Ceci peut être réalisé en tirant parti de modèles fondamentaux qui vous aident à rédiger des e-mails, à résumer du texte, à répondre à des questions, à créer des chatbots et à créer des images.

Guide des documents pratiques de déploiement des exemples AWS Github

Ce matériel de laboratoire est distribué sur AWS Samples Github. Les supports de pratique actuels sont toujours plus à jour que les supports officiels des échantillons AWS.

LLM - RAG : Opensearch avec SageMaker Endpoint LLM Polyglot

• Sujet : LLM - RAG : Opensearch avec SageMaker Endpoint LLM Polyglot
• Lien de réflexion : https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/20_applications/04_rag_finance_opensearch_sllm_workshop
• Dernière date de réflexion : 2024.04.25

[Tuner] Réglage fin de QLoRA

• Sujet : [Tuner] Réglage fin de QLoRA
• Lien de réflexion : https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/30_fine_tune/01-instruction-tuning-peft-qlora
• Dernière date de réflexion : 2024.04.18

LLM - RAG : Opensearch avec SageMaker Endpoint LLM Ployglot

1. Implémentation pratique de RAG (Retrieval-Augmented Generation) avec Amazon SageMaker et Amazon Opensearch - RAG (Retrieval-Augmented Generation) est une architecture NLP innovante qui combine la récupération d'informations et la génération de texte. Dans cet atelier pratique, vous apprendrez, au travers d'un bref exercice pratique, comment RAG s'intègre à Amazon Opensearch pour améliorer le processus de recherche de bases de données ou de documents externes fiables. Dans cet atelier, vous acquerrez une expérience pratique de la mise en œuvre de ces modèles dans SageMaker Endpoint et Amazon Openssearch en intégrant la saisie de données, des SDK et des logiciels open source tels que LangChain et FAISS.

[Tuner] Réglage fin de QLoRA

• KULLM-Polyglotte-12.8B

Noms de fichiers

• 1_prepare-dataset-alpaca-method.ipynb : Préparez un ensemble de données d'entraînement à partir de l'ensemble de données d'instruction. Cette méthode tokenise chaque échantillon.
• 1_prepare-dataset-chunk-method.ipynb : Préparez un ensemble de données d'entraînement à partir de l'ensemble de données d'instruction. Cette méthode concatène tous les échantillons et les divise en fonction de la taille des morceaux.
• 2_local-train-debug-lora.ipynb : déboguez avec quelques exemples de données dans l'environnement de développement avant d'effectuer sérieusement sur l'instance de formation. Si vous êtes déjà familiarisé avec le réglage fin, veuillez ignorer cette pratique et passer à 3_sm-train-lora.ipynb.
• 3_sm-train-lora.ipynb : Effectue un réglage fin sur les instances de formation SageMaker.