AWS LLM SageMaker

AWS-LLM-SageMaker

Dieser praktische Workshop für Entwickler und Lösungsentwickler stellt vor, wie Sie Foundation Models (FM) mit Amazon SageMaker nutzen können.

In diesem Labor zeigen wir Ihnen einige der beliebtesten Nutzungsmuster unserer Kunden für generative KI und Beispiele für Technologien, die GenAI nutzen, um den Wert für ihre Unternehmen durch eine Verbesserung der Produktivität zu steigern.
Dies kann durch die Nutzung grundlegender Modelle erreicht werden, die Ihnen beim Verfassen von E-Mails, beim Zusammenfassen von Texten, beim Beantworten von Fragen, beim Erstellen von Chatbots und beim Erstellen von Bildern helfen.

Leitfaden für AWS-Beispiele für Github-Bereitstellungspraxismaterialien

Dieses Labormaterial wird auf AWS Samples Github verteilt. Aktuelle Übungsmaterialien sind immer aktueller als die offiziellen AWS-Beispielmaterialien.

LLM – RAG: Opensearch mit SageMaker Endpoint LLM Polyglot

• Thema: LLM – RAG: Opensearch mit SageMaker Endpoint LLM Polyglot
• Reflexionslink: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/20_applications/04_rag_finance_opensearch_sllm_workshop
• Letzter Reflexionstermin: 25.04.2024

[Tuner] QLoRA-Feinabstimmung

• Thema: [Tuner] QLoRA-Feinabstimmung
• Reflection-Link: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/30_fine_tune/01-instruction-tuning-peft-qlora
• Letzter Reflexionstermin: 18.04.2024

LLM – RAG: Opensearch mit SageMaker Endpoint LLM Ployglot

1. Praktische Implementierung von RAG (Retrieval-Augmented Generation) mit Amazon SageMaker und Amazon Opensearch – RAG (Retrieval-Augmented Generation) ist eine innovative NLP-Architektur, die Informationsabruf und Textgenerierung kombiniert. In diesem praktischen Labor erfahren Sie anhand einer kurzen praktischen Übung, wie RAG in Amazon Opensearch integriert wird, um den Prozess der Suche in externen vertrauenswürdigen Datenbanken oder Dokumenten zu verbessern. In diesem Labor sammeln Sie praktische Erfahrungen bei der Implementierung dieser Muster in SageMaker Endpoint und Amazon Openssearch durch die Einbettung von Dateneingaben, SDKs und Open-Source-Software wie LangChain und FAISS.

[Tuner] QLoRA-Feinabstimmung

• KULLM-Polyglot-12.8B

Dateinamen

• 1_prepare-dataset-alpaca-method.ipynb : Bereiten Sie einen Trainingsdatensatz aus dem Anweisungsdatensatz vor. Diese Methode tokenisiert jede Probe.
• 1_prepare-dataset-chunk-method.ipynb : Bereiten Sie einen Trainingsdatensatz aus dem Anweisungsdatensatz vor. Diese Methode verkettet alle Samples und teilt sie entsprechend der Chunk-Größe auf.
• 2_local-train-debug-lora.ipynb : Debuggen Sie mit einigen Beispieldaten in der Entwicklungsumgebung, bevor Sie die Trainingsinstanz ernsthaft ausführen. Wenn Sie bereits mit der Feinabstimmung vertraut sind, überspringen Sie diese praktische Übung bitte und fahren Sie mit 3_sm-train-lora.ipynb fort.
• 3_sm-train-lora.ipynb : Führt eine Feinabstimmung der SageMaker-Trainingsinstanzen durch.