AWS LLM SageMaker

AWS-LLM-SageMaker

Este workshop prático para desenvolvedores e criadores de soluções apresenta como aproveitar Foundation Models (FM) com o Amazon SageMaker.

Neste laboratório, mostraremos alguns dos padrões de uso de IA generativa mais populares de nossos clientes e exemplos de tecnologias que usam GenAI para gerar valor para suas organizações, melhorando a produtividade.
Isso pode ser alcançado aproveitando modelos básicos que ajudam você a redigir e-mails, resumir textos, responder perguntas, construir chatbots e criar imagens.

Guia para materiais práticos de implantação de amostras da AWS no Github

Este material de laboratório é distribuído no AWS Samples Github. Os materiais práticos atuais são sempre mais atualizados do que os materiais oficiais de amostras da AWS.

LLM - RAG: Opensearch com SageMaker Endpoint LLM Polyglot

• Tópico: LLM - RAG: Opensearch com SageMaker Endpoint LLM Polyglot
• Link de reflexão: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/20_applications/04_rag_finance_opensearch_sllm_workshop
• Última data de reflexão: 2024.04.25

[Tuner] Ajuste fino do QLoRA

• Tópico: [Tuner] Ajuste fino do QLoRA
• Link de reflexão: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/30_fine_tune/01-instruction-tuning-peft-qlora
• Última data de reflexão: 2024.04.18

LLM - RAG: Opensearch com SageMaker Endpoint LLM Ployglot

1. Implementação prática de RAG (Retrieval-Augmented Generation) com Amazon SageMaker e Amazon Opensearch - RAG (Retrieval-Augmented Generation) é uma arquitetura de PNL inovadora que combina recuperação de informações e geração de texto. Neste laboratório prático, você aprenderá por meio de um breve exercício prático como o RAG se integra ao Amazon Opensearch para aprimorar o processo de pesquisa em bancos de dados ou documentos externos confiáveis. Neste laboratório, você obterá experiência prática na implementação desses padrões no SageMaker Endpoint e no Amazon Openssearch por meio da incorporação de entrada de dados, SDKs e software de código aberto, como LangChain e FAISS.

[Tuner] Ajuste fino do QLoRA

• KULLM-Poliglota-12.8B

Nomes de arquivos

• 1_prepare-dataset-alpaca-method.ipynb : Prepare um conjunto de dados de treinamento a partir do conjunto de dados de instrução. Este método tokeniza cada amostra.
• 1_prepare-dataset-chunk-method.ipynb : Prepare um conjunto de dados de treinamento a partir do conjunto de dados de instrução. Este método concatena todas as amostras e as divide de acordo com o tamanho do pedaço.
• 2_local-train-debug-lora.ipynb : Depurar com alguns dados de amostra no ambiente de desenvolvimento antes de executar seriamente as instâncias de treinamento. Se você já está familiarizado com o ajuste fino, pule esta prática e prossiga com 3_sm-train-lora.ipynb.
• 3_sm-train-lora.ipynb : executa ajuste fino em instâncias de treinamento do SageMaker.