genai bedrock chatbot

Asisten Obrolan GenAI di AWS

Perkenalan

Aplikasi Demo Chat Assistant ini berpusat pada pengembangan Chat Assistant tingkat lanjut menggunakan Amazon Bedrock dan solusi GenAI tanpa server dari AWS. Solusi ini mendemonstrasikan Asisten Obrolan yang memanfaatkan pengetahuan Panduan Pengembang Amazon SageMaker dan harga instans SageMaker. Asisten Obrolan ini berfungsi sebagai contoh kekuatan Amazon Bedrock dalam memproses dan memanfaatkan kumpulan data yang kompleks, dan kemampuannya mengubah bahasa alami menjadi kueri Amazon Athena. Ia menggunakan alat sumber terbuka seperti LangChain dan LLamaIndex untuk meningkatkan kemampuan pemrosesan dan pengambilan datanya. Artikel ini juga menyoroti integrasi berbagai sumber daya AWS, termasuk Amazon S3 untuk penyimpanan, Amazon Kendra sebagai penyimpanan vektor untuk mendukung pengambilan augmented generation (RAG), AWS Glue untuk persiapan data, Amazon Athena untuk kueri yang efisien, Amazon Lambda untuk komputasi tanpa server, dan Amazon ECS untuk manajemen kontainer. Sumber daya ini secara kolektif memungkinkan Chat Assistant mengambil dan mengelola konten dari dokumen dan database secara efektif, menggambarkan potensi Amazon Bedrock dalam aplikasi Chat Assistant yang canggih.

Penyebaran

Silakan merujuk ke artikel APG ini untuk langkah-langkah penerapan terperinci: Kembangkan asisten berbasis obrolan AI generatif tingkat lanjut dengan menggunakan permintaan RAG dan ReAct.

Untuk solusi asisten obrolan menggunakan Agen untuk Amazon Bedrock, silakan lihat:

1. Artikel APG: Mengembangkan asisten berbasis obrolan yang sepenuhnya otomatis dengan menggunakan agen dan basis pengetahuan Amazon Bedrock
2. Repo Github: genai-batuan dasar-agen-obrolan-asisten

Prasyarat

• Buruh pelabuhan
• AWS CDK Toolkit 2.132.1+, diinstal dan dikonfigurasi. Untuk informasi selengkapnya, lihat Memulai AWS CDK dalam dokumentasi AWS CDK.
• Python 3.11+, diinstal dan dikonfigurasi. Untuk informasi lebih lanjut, lihat Panduan Pemula/Unduh dalam dokumentasi Python.
• Akun AWS yang aktif
• Akun AWS yang di-bootstrap dengan menggunakan AWS CDK di us-east-1. Wilayah AWS us-east-1 diperlukan untuk akses model Amazon Bedrock Claude dan Amazon Titan Embedding.
• Aktifkan akses model penyematan Claude dan Titan di layanan Bedrock.

Tumpukan teknologi target

• Batuan Dasar Amazon
• Amazon ECS
• Lem AWS
• AWS Lambda
• Amazon S3
• Amazon Kendra
• Amazon Athena
• Penyeimbang Beban Elastis

Arsitektur Sasaran

Kode

Repositori kode berisi file dan folder berikut:

• folder assets – Berbagai aset statis seperti diagram arsitektur, kumpulan data publik, dll tersedia di sini
• folder code/lambda-container Kode Python yang dijalankan di fungsi Lambda
• folder code/streamlit-app Kode Python yang dijalankan sebagai image container di ECS
• folder tests – File Python yang dijalankan untuk menguji unit konstruksi AWS CDK
• code/code_stack.py – File Python konstruksi AWS CDK yang digunakan untuk membuat sumber daya AWS
• app.py – File Python tumpukan AWS CDK yang digunakan untuk menerapkan sumber daya AWS di akun AWS target
• requirements.txt – Daftar semua dependensi Python yang harus diinstal untuk AWS CDK
• requirements-dev.txt – Daftar semua dependensi Python yang harus diinstal untuk AWS CDK untuk menjalankan rangkaian pengujian unit
• cdk.json – File masukan untuk memberikan nilai yang diperlukan untuk menjalankan sumber daya

Catatan: Kode AWS CDK menggunakan konstruksi L3 dan kebijakan IAM terkelola AWS untuk menerapkan solusi.

Perintah yang berguna

• cdk ls mencantumkan semua tumpukan di aplikasi
• cdk synth memancarkan templat CloudFormation yang disintesis
• cdk deploy menyebarkan tumpukan ini ke akun/wilayah AWS default Anda
• cdk diff membandingkan tumpukan yang dikerahkan dengan keadaan saat ini
• cdk docs membuka dokumentasi CDK

Keamanan

Lihat KONTRIBUSI untuk informasi lebih lanjut.

Lisensi

Perpustakaan ini dilisensikan di bawah Lisensi MIT-0. Lihat file LISENSI.