AWS LLM SageMaker

AWS-LLM-SageMaker

Lokakarya praktis untuk pengembang dan pembuat solusi ini memperkenalkan cara memanfaatkan Foundation Models (FM) dengan Amazon SageMaker.

Di lab ini, kami akan menunjukkan kepada Anda beberapa pola penggunaan AI Generatif yang paling populer di pelanggan kami dan contoh teknologi yang menggunakan GenAI untuk mendorong nilai bagi organisasi mereka dengan meningkatkan produktivitas.
Hal ini dapat dicapai dengan memanfaatkan model dasar yang membantu Anda menulis email, meringkas teks, menjawab pertanyaan, membuat chatbot, dan membuat gambar.

Panduan materi praktik penerapan Github Sampel AWS

Materi lab ini didistribusikan di AWS Samples Github. Materi praktik terkini selalu lebih mutakhir dibandingkan materi Sampel AWS resmi.

LLM - RAG: Pencarian Terbuka dengan SageMaker Endpoint LLM Polyglot

• Topik: LLM - RAG: Pencarian Terbuka dengan SageMaker Endpoint LLM Polyglot
• Tautan refleksi: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/20_applications/04_rag_finance_opensearch_sllm_workshop
• Tanggal refleksi terbaru: 25.04.2024

[Tuner] Penyempurnaan QLoRA

• Topik: Penyempurnaan [Tuner] QLoRA
• Tautan refleksi: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/30_fine_tune/01-instruction-tuning-peft-qlora
• Tanggal refleksi terbaru: 2024.04.18

LLM - RAG: Pencarian Terbuka dengan SageMaker Endpoint LLM Ployglot

1. Implementasi langsung RAG (Retrieval-Augmented Generation) dengan Amazon SageMaker dan Amazon Opensearch - RAG (Retrieval-Augmented Generation) adalah arsitektur NLP inovatif yang menggabungkan pengambilan informasi dan pembuatan teks. Di lab praktis ini, Anda akan belajar melalui latihan praktis singkat bagaimana RAG berintegrasi dengan Amazon Opensearch untuk meningkatkan proses pencarian database atau dokumen eksternal yang tepercaya. Di lab ini, Anda akan mendapatkan pengalaman langsung menerapkan pola-pola ini di SageMaker Endpoint dan Amazon Openssearch melalui penyematan input data, SDK, dan perangkat lunak sumber terbuka seperti LangChain dan FAISS.

[Tuner] Penyempurnaan QLoRA

• KULLM-Poliglot-12.8B

Nama file

• 1_prepare-dataset-alpaca-method.ipynb : Siapkan dataset pelatihan dari dataset instruksi. Metode ini memberi token pada setiap sampel.
• 1_prepare-dataset-chunk-method.ipynb : Siapkan dataset pelatihan dari dataset instruksi. Metode ini menggabungkan semua sampel dan membaginya menurut ukuran potongannya.
• 2_local-train-debug-lora.ipynb : Debug dengan beberapa data sampel di lingkungan pengembangan sebelum melakukan dengan sungguh-sungguh pada instance pelatihan. Jika Anda sudah terbiasa dengan fine tuning, lewati praktik ini dan lanjutkan dengan 3_sm-train-lora.ipynb.
• 3_sm-train-lora.ipynb : Melakukan penyesuaian pada instans pelatihan SageMaker.