panduan untuk menghasilkan deskripsi produk dengan landasan amazon

Menghasilkan Deskripsi Produk dengan Batuan Dasar

Solusi ini berisi backend tanpa server dan aplikasi front-end ReactJS yang membuat deskripsi produk dari gambar dan input teks, menyempurnakan dan menerjemahkan deskripsi produk menggunakan layanan AI generatif terkelola yang baru, Amazon Bedrock.

Daftar isi

1. Ringkasan
   • Biaya
2. Prasyarat
3. Langkah Penerapan
4. Validasi Penerapan
5. Menjalankan Bimbingan
6. Langkah Selanjutnya
7. Pembersihan
8. Pertimbangan dan batasan tambahan

Ringkasan

Bisnis ritel seringkali memiliki ribuan atau jutaan produk, yang semuanya memerlukan deskripsi yang akurat dan efektif. Pengecer sering kali memiliki metadata atau gambar untuk produk ini yang dapat diberikan sebagai masukan ke model AI generatif untuk mempercepat proses pembuatan deskripsi produk.

1. Klien mengirimkan permintaan termasuk data input (baik gambar produk atau deskripsi produk dasar untuk disempurnakan) ke Amazon API Gateway REST API.
2. Amazon API Gateway meneruskan permintaan ke AWS Lambda melalui integrasi proksi.
3. Saat beroperasi pada input gambar produk, AWS Lambda memanggil Amazon Rekognition, yang menggunakan pembelajaran mesin untuk mendeteksi objek dalam gambar. Deskripsi objek yang terdeteksi kemudian dapat dimasukkan ke dalam langkah selanjutnya untuk membuat deskripsi produk.
4. AWS Lambda memanggil model bahasa besar (LLM) yang dihosting oleh Amazon Bedrock, seperti model bahasa Amazon Titan, untuk menghasilkan deskripsi produk. LLM dapat menyempurnakan deskripsi teks dasar yang ada, atau menghasilkan deskripsi baru berdasarkan objek yang terdeteksi oleh Amazon Rekognition.
5. AWS Lambda meneruskan respons ke Amazon API Gateway.
6. Terakhir, Amazon API Gateway mengembalikan respons HTTP ke klien.

Biaya

Anda bertanggung jawab atas biaya layanan AWS yang digunakan saat menjalankan Panduan ini. Mulai November 2023, biaya untuk menjalankan Panduan ini dengan pengaturan default di AS Timur (Virginia Utara) adalah sekitar $86 per bulan untuk memproses 1000 produk setiap bulan.

Panduan ini mencakup layanan AWS Rekognition, Bedrock, Cognito, Lambda, API Gateway, dan CloudWatch dengan biaya sebagai berikut:

• Pengakuan: $0,001 per gambar (untuk satu juta gambar pertama)
• Batuan dasar: Tergantung pada modelnya. Claude Instant misalnya adalah $0,00163 per 1000 token masukan dan $0,00551 per 1000 token keluaran, dan model AI21 Jurassic adalah $0,0125 per 1000 token masukan/keluaran.
• Cognito: Gratis hingga 50 ribu pengguna ($0,0055 per pengguna aktif bulanan setelahnya)
• API Gateway: $3,50 per juta permintaan
• Lambda: $0,0000166667 per GB detik atau $0,0005 per pemanggilan untuk panduan ini dengan asumsi durasi kasus terburuk 30 detik
• Log CloudWatch: $0,50 per GB yang dikumpulkan, $0,03 per bulan per GB yang disimpan

Secara konservatif (berbuat salah karena melebih-lebihkan), menggunakan solusi ini untuk menghasilkan deskripsi produk berdasarkan gambar masukan 1000 kali per bulan (termasuk menghasilkan terjemahan ke dalam bahasa Spanyol, Jerman, dan Prancis), dan dengan asumsi kasus terburuk 30 detik per pemanggilan fungsi Lambda dan 1000 token input/output untuk semua panggilan ke model Claude Instan dan Jurassic, biayanya kira-kira sebagai berikut:

• Pengakuan: $0,001 per gambar * 1000 gambar = $1,00
• Batuan Dasar: $0,00163 + $0,00551 per panggilan ke Claude Instan * 1000 panggilan = $7,14 dan $0,0125 * 2 per panggilan ke Jurassic * 1000 panggilan * 3 bahasa = $75
• Pengetahuan: Gratis
• API Gateway: $3,50 per juta pemanggilan * 5000 total pemanggilan = $0,0175
• Lambda: $0,0005 per pemanggilan * 5000 total pemanggilan = $2,50
• Log CloudWatch: Secara konservatif berasumsi 1 GB terkumpul, dengan biaya sekitar $0,53 untuk bulan pertama
• TOTAL: $86 per bulan dengan 1000 penggunaan per bulan (atau hanya $11 per bulan jika terjemahan dinonaktifkan)

Prasyarat

Anda harus menginstal semua prasyarat di mesin lokal Anda:

1. Python 3.8 atau lebih tinggi
2. Node.js & npm
3. Instal AWS CDK Toolkit (perintah cdk ) seperti yang didokumentasikan di sini. Anda juga perlu menjalankan cdk bootstrap jika Anda belum pernah menggunakan CDK sebelumnya di akun Anda seperti yang dibahas di sini.
4. AWS CLI
5. Docker diperlukan untuk mengizinkan CDK mengemas kode Lambda bersama dengan dependensi Python yang diperlukan
6. Proyek ini harus bekerja di lingkungan macOS, Linux, atau Windows apa pun dengan prasyarat di atas, namun proyek tersebut telah diuji di macOS dan Linux. Beberapa perintah dan skrip utilitas mengasumsikan lingkungan Bash shell.
7. Claude Instant, Stable Diffusion SDXL0.8, dan AI21 Jurassic-2 Mid harus diaktifkan di Bedrock seperti yang didokumentasikan di sini

CATATAN: Docker harus diinstal dan dijalankan . Anda dapat memastikan bahwa daemon Docker berjalan dengan memastikan bahwa perintah seperti docker ps berjalan tanpa kesalahan. Jika tidak ada container yang berjalan, maka docker ps akan mengembalikan daftar container kosong seperti ini:

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

Langkah Penerapan

1. Buat lingkungan EC2 di AWS Cloud9, luncurkan instans EC2 ke subnet publik, dan tuliskan alamat IPv4 Publiknya (#cloud9_ec2_ip).

2. Ubah ukuran volume EBS yang digunakan lingkungan (dibuat pada Langkah 1) menjadi setidaknya 20 GB. Muncul dengan 10GB untuk t2.micro secara default.

3. Kloning repo:

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd ke folder repo:

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (Opsional) buat virtualenv Python baru untuk dependensi spesifik proyek:

    python -m venv .env && source .env/bin/activate
   

6. Instal dependensi CDK:

    pip install -r deployment/requirements.txt
   

7. Bootstrapping untuk AWS CDK, jika belum pernah dilakukan sebelumnya:

    cd deployment && cdk bootstrap
   

8. Terapkan backend:

    cd deployment && cdk deploy
   

9. cd kembali ke root proyek:

    cd ..
   

10. Buat pengguna Cognito awal:

     deployment/create-user.sh <>
    

11. Perbarui config.js dengan nilai yang sesuai dari keluaran tumpukan CDK. Hal ini dapat dilakukan secara otomatis dengan menjalankan

     deployment/update-config.sh
    

12. Instal dependensi frontend:

     cd source/frontend && npm install
    

13. Jalankan contoh aplikasi klien, dan tuliskan nomor port (#web_port) yang didengarkan webpack, mis. 8080.

     npm start
    

14. Buka Grup Keamanan EC2 yang dibuat pada Langkah 1, tambahkan aturan masuk, yang mengizinkan TCP Kustom, Rentang port #web_port, Sumber “IP Saya”, lalu Simpan aturan.

Validasi Penerapan

Penerapan akan berhasil jika semua perintah di atas selesai tanpa kesalahan. Anda dapat menelusuri sumber daya backend yang dibuat dengan menavigasi ke layanan CloudFormation di Konsol AWS, menemukan tumpukan bernama LambdaStack , dan menelusuri sumber dayanya.

Menjalankan Bimbingan

Anda dapat mencoba aplikasi web demo dengan mengikuti langkah-langkah berikut:

1. Periksa email Anda untuk kata sandi sementara
2. Akses aplikasi dari browser lokal di #cloud9_public_ip:#web_port
3. Ikuti petunjuk untuk masuk dan mengubah kata sandi Anda
4. Untuk membuat deskripsi produk dari gambar (mode default), telusuri file gambar untuk beberapa produk atau objek
5. Setelah diunggah, deskripsi produk dan terjemahan ke beberapa bahasa akan dibuat

Langkah Selanjutnya

Lihat halaman produk Bedrock untuk sumber daya lebih lanjut tentang penggunaan Amazon Bedrock.

Pembersihan

Infrastruktur yang disediakan dapat dihapus dengan menjalankan perintah berikut:

 cd deployment && cdk destroy

Pertimbangan dan batasan tambahan

• Karena proyek ini meneruskan gambar yang dikodekan base64 ke dalam fungsi Lambda melalui payload peristiwa, total ukuran masukan dibatasi hingga 6 MB, yang membatasi ukuran gambar masukan.
• Integrasi proksi Lambda dan API Gateway membatasi waktu pemrosesan hingga 29 detik per panggilan, yang dapat mencegah pembuatan deskripsi produk yang lebih besar. Keterbatasan ini dapat diatasi dengan menggunakan pendekatan alternatif, seperti streaming respons melalui URL fungsi Lambda, bukan API Gateway.