คำแนะนำในการสร้างคำอธิบายผลิตภัณฑ์ด้วยข้อเท็จจริงของ Amazon

การสร้างคำอธิบายผลิตภัณฑ์ด้วย Bedrock

โซลูชันนี้ประกอบด้วยแบ็กเอนด์แบบไร้เซิร์ฟเวอร์และแอปพลิเคชันส่วนหน้า ReactJS ซึ่งสร้างคำอธิบายผลิตภัณฑ์จากรูปภาพและการป้อนข้อความ ปรับปรุงและแปลคำอธิบายผลิตภัณฑ์โดยใช้บริการ AI ที่สร้างใหม่ที่ได้รับการจัดการอย่าง Amazon Bedrock

สารบัญ

1. ภาพรวม
   • ค่าใช้จ่าย
2. ข้อกำหนดเบื้องต้น
3. ขั้นตอนการปรับใช้
4. การตรวจสอบการปรับใช้
5. ดำเนินการตามคำแนะนำ
6. ขั้นตอนต่อไป
7. การล้างข้อมูล
8. ข้อควรพิจารณาและข้อจำกัดเพิ่มเติม

ภาพรวม

ธุรกิจค้าปลีกมักจะมีผลิตภัณฑ์หลายพันรายการหรือหลายล้านรายการ ซึ่งทั้งหมดต้องมีคำอธิบายที่ถูกต้องและมีประสิทธิภาพ ผู้ค้าปลีกมักจะมีข้อมูลเมตาหรือรูปภาพที่มีอยู่สำหรับผลิตภัณฑ์เหล่านี้ ซึ่งสามารถให้เป็นอินพุตสำหรับโมเดล AI เชิงสร้างสรรค์ เพื่อเร่งกระบวนการสร้างคำอธิบายผลิตภัณฑ์ได้อย่างมาก

1. ไคลเอ็นต์ส่งคำขอที่มีข้อมูลอินพุต (รูปภาพผลิตภัณฑ์หรือคำอธิบายผลิตภัณฑ์พื้นฐานที่ต้องการปรับปรุง) ไปยัง Amazon API Gateway REST API
2. Amazon API Gateway ส่งคำขอไปยัง AWS Lambda ผ่านการผสานรวมพร็อกซี
3. เมื่อดำเนินการกับอินพุตรูปภาพผลิตภัณฑ์ AWS Lambda จะเรียกใช้ Amazon Rekognition ซึ่งใช้การเรียนรู้ของเครื่องเพื่อตรวจจับวัตถุในภาพ คำอธิบายของออบเจ็กต์ที่ตรวจพบสามารถป้อนเข้าไปในขั้นตอนถัดไปเพื่อสร้างคำอธิบายผลิตภัณฑ์ได้
4. AWS Lambda เรียกโมเดลภาษาขนาดใหญ่ (LLM) ที่โฮสต์โดย Amazon Bedrock เช่น โมเดลภาษา Amazon Titan เพื่อสร้างคำอธิบายผลิตภัณฑ์ LLM สามารถปรับปรุงคำอธิบายข้อความพื้นฐานที่มีอยู่ หรือสร้างคำอธิบายใหม่ตามออบเจ็กต์ที่ Amazon Rekognition ตรวจพบได้
5. AWS Lambda ผ่านการตอบกลับไปยัง Amazon API Gateway
6. สุดท้าย Amazon API Gateway จะส่งคืนการตอบสนอง HTTP ไปยังไคลเอ็นต์

ค่าใช้จ่าย

คุณต้องรับผิดชอบค่าใช้จ่ายของบริการของ AWS ที่ใช้ขณะใช้งานคำแนะนำนี้ ณ เดือนพฤศจิกายน 2023 ค่าใช้จ่ายในการดำเนินการคำแนะนำนี้ด้วยการตั้งค่าเริ่มต้นในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียเหนือ) อยู่ที่ประมาณ $86 ต่อเดือนสำหรับการประมวลผลผลิตภัณฑ์ 1,000 รายการในแต่ละเดือน

คำแนะนำนี้ประกอบด้วยบริการ AWS Rekognition, Bedrock, Cognito, Lambda, API Gateway และ CloudWatch โดยมีค่าใช้จ่ายดังต่อไปนี้:

• การรับรู้: 0.001 USD ต่อภาพ (สำหรับล้านภาพแรก)
• พื้นหิน: ขึ้นอยู่กับรุ่น ตัวอย่างเช่น Claude Instant คือ 0.00163 ดอลลาร์ต่อโทเค็นอินพุต 1,000 ดอลลาร์ และ 0.00551 ดอลลาร์ต่อโทเค็นเอาต์พุต 1,000 ดอลลาร์ และโมเดล AI21 Jurassic คือ 0.0125 ดอลลาร์ต่อโทเค็นอินพุต/เอาท์พุต 1,000 รายการ
• Cognito: ฟรีสำหรับผู้ใช้สูงสุด 50,000 คน ($0.0055 ต่อผู้ใช้งานต่อเดือนหลังจากนั้น)
• API Gateway: 3.50 USD ต่อหนึ่งล้านคำขอ
• Lambda: 0.0000166667 USD ต่อ GB วินาทีหรือ 0.0005 USD ต่อการเรียกใช้สำหรับคำแนะนำนี้โดยถือว่ามีระยะเวลา 30 วินาทีที่แย่ที่สุด
• บันทึก CloudWatch: 0.50 USD ต่อ GB ที่รวบรวม, 0.03 USD ต่อเดือนต่อ GB ที่จัดเก็บ

อย่างระมัดระวัง (ทำผิดด้านการประเมินค่าสูงเกินไป) โดยใช้โซลูชันนี้เพื่อสร้างคำอธิบายผลิตภัณฑ์ตามรูปภาพอินพุต 1,000 ครั้งต่อเดือน (รวมถึงการสร้างคำแปลเป็นภาษาสเปน เยอรมัน และฝรั่งเศส) และสมมติว่ากรณีที่แย่ที่สุดอยู่ที่ 30 วินาทีต่อการเรียกใช้ฟังก์ชัน Lambda และ โทเค็นอินพุต/เอาท์พุต 1,000 รายการสำหรับการเรียก Claude Instant และรุ่น Jurassic ทั้งหมด มีค่าใช้จ่ายโดยประมาณดังนี้:

• การรับรู้: 0.001 USD ต่อภาพ * 1,000 ภาพ = 1.00 USD
• Bedrock: 0.00163 USD + 0.00551 USD ต่อการโทรไปยัง Claude Instant * 1,000 ครั้ง = 7.14 USD และ 0.0125 USD * 2 ครั้งต่อการโทรไปยัง Jurassic * 1,000 ครั้ง * 3 ภาษา = 75 USD
• รู้รอบ: ฟรี
• API Gateway: 3.50 USD ต่อการร้องขอ 1 ล้านครั้ง * คำขอทั้งหมด 5,000 ครั้ง = 0.0175 USD
• Lambda: 0.0005 USD ต่อการร้องขอ * การร้องขอทั้งหมด 5,000 ครั้ง = 2.50 USD
• บันทึก CloudWatch: คิดอย่างระมัดระวังว่าจะมีการเก็บรวบรวม 1 GB โดยมีราคาประมาณ 0.53 USD ในเดือนแรก
• รวม: $86 ต่อเดือน มีการใช้งาน 1,000 ครั้งต่อเดือน (หรือเพียง $11 ต่อเดือนหากปิดใช้งานการแปล)

ข้อกำหนดเบื้องต้น

คุณจะต้องติดตั้งข้อกำหนดเบื้องต้นทั้งหมดบนเครื่องของคุณ:

1. Python 3.8 หรือสูงกว่า
2. Node.js และ npm
3. ติดตั้ง AWS CDK Toolkit (คำสั่ง cdk ) ตามที่อธิบายไว้ที่นี่ คุณจะต้องเรียกใช้ cdk bootstrap หากคุณไม่เคยใช้ CDK มาก่อนในบัญชีของคุณตามที่อธิบายไว้ที่นี่
4. AWS CLI
5. ต้องใช้ Docker เพื่ออนุญาตให้ CDK ทำแพ็กเกจโค้ด Lambda ร่วมกับการอ้างอิง Python ที่จำเป็น
6. โปรเจ็กต์ควรทำงานได้ในสภาพแวดล้อม macOS, Linux หรือ Windows ที่มีข้อกำหนดเบื้องต้นข้างต้น แต่โปรเจ็กต์ได้รับการทดสอบใน macOS และ Linux แล้ว คำสั่งและสคริปต์อรรถประโยชน์บางคำสั่งใช้สภาพแวดล้อม Bash เชลล์
7. ต้องเปิดใช้งาน Claude Instant, Stable Diffusion SDXL0.8 และ AI21 Jurassic-2 Mid ใน Bedrock ตามที่จัดทำเอกสารไว้ที่นี่

หมายเหตุ: ต้องติดตั้งและ ใช้งาน Docker . คุณสามารถมั่นใจได้ว่า Docker daemon กำลังทำงานอยู่โดยตรวจสอบให้แน่ใจว่าคำสั่งเช่น docker ps ทำงานโดยไม่มีข้อผิดพลาด หากไม่มีคอนเทนเนอร์ใดทำงานอยู่ docker ps ควรส่งคืนรายการคอนเทนเนอร์ว่างดังนี้:

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

ขั้นตอนการปรับใช้

1. สร้างสภาพแวดล้อม EC2 ใน AWS Cloud9 เปิดใช้งาน EC2 instance ในซับเน็ตสาธารณะ และจดที่อยู่ IPv4 สาธารณะ (#cloud9_ec2_ip)

2. ปรับขนาดไดรฟ์ข้อมูล EBS ที่สภาพแวดล้อม (สร้างขึ้นในขั้นตอนที่ 1) ใช้เป็นอย่างน้อย 20GB มันมาพร้อมกับ 10GB สำหรับ t2.micro โดยค่าเริ่มต้น

3. โคลน repo:

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd ไปยังโฟลเดอร์ repo:

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (ไม่บังคับ) สร้าง Python virtualenv ใหม่สำหรับการขึ้นต่อกันเฉพาะโปรเจ็กต์:

    python -m venv .env && source .env/bin/activate
   

6. ติดตั้งการพึ่งพา CDK:

    pip install -r deployment/requirements.txt
   

7. การบูตสแตรปสำหรับ AWS CDK หากยังไม่เคยทำมาก่อน:

    cd deployment && cdk bootstrap
   

8. ปรับใช้แบ็กเอนด์:

    cd deployment && cdk deploy
   

9. cd กลับไปที่รูทโปรเจ็กต์:

    cd ..
   

10. สร้างผู้ใช้ Cognito เริ่มต้น:

     deployment/create-user.sh <>
    

11. อัปเดต config.js ด้วยค่าที่เหมาะสมจากเอาต์พุตสแต็ก CDK ซึ่งสามารถทำได้โดยอัตโนมัติโดยการรัน

     deployment/update-config.sh
    

12. ติดตั้งการพึ่งพาส่วนหน้า:

     cd source/frontend && npm install
    

13. เรียกใช้แอปไคลเอนต์ตัวอย่าง และจดหมายเลขพอร์ต (#web_port) ที่ webpack ฟัง เช่น 8080.

     npm start
    

14. เปิดกลุ่มความปลอดภัยของ EC2 ที่สร้างในขั้นตอนที่ 1 เพิ่มกฎขาเข้า ซึ่งอนุญาต TCP แบบกำหนดเอง ช่วงพอร์ต #web_port แหล่งที่มา "IP ของฉัน" จากนั้นบันทึกกฎ

การตรวจสอบการปรับใช้

การปรับใช้ควรจะสำเร็จหากคำสั่งข้างต้นทั้งหมดเสร็จสมบูรณ์โดยไม่มีข้อผิดพลาด คุณสามารถเรียกดูทรัพยากรแบ็คเอนด์ที่สร้างขึ้นโดยไปที่บริการ CloudFormation ใน AWS Console ค้นหาสแต็กชื่อ LambdaStack และเรียกดูทรัพยากรของสแต็ก

ดำเนินการตามคำแนะนำ

คุณสามารถลองใช้เว็บแอปสาธิตได้โดยทำตามขั้นตอนเหล่านี้:

1. ตรวจสอบอีเมลของคุณเพื่อหารหัสผ่านชั่วคราว
2. เข้าถึงแอปจากเบราว์เซอร์ในเครื่องที่ #cloud9_public_ip:#web_port
3. ปฏิบัติตามคำแนะนำเพื่อเข้าสู่ระบบและเปลี่ยนรหัสผ่าน
4. หากต้องการสร้างคำอธิบายผลิตภัณฑ์จากรูปภาพ (โหมดเริ่มต้น) ให้เรียกดูไฟล์รูปภาพสำหรับผลิตภัณฑ์หรือออบเจ็กต์บางอย่าง
5. เมื่ออัปโหลดแล้ว คำอธิบายผลิตภัณฑ์และคำแปลเป็นหลายภาษาจะถูกสร้างขึ้น

ขั้นตอนต่อไป

ดูหน้าผลิตภัณฑ์ Bedrock สำหรับแหล่งข้อมูลเพิ่มเติมเกี่ยวกับการใช้ Amazon Bedrock

การล้างข้อมูล

โครงสร้างพื้นฐานที่จัดเตรียมไว้สามารถลบได้โดยการรันคำสั่งต่อไปนี้:

 cd deployment && cdk destroy

ข้อควรพิจารณาและข้อจำกัดเพิ่มเติม

• เนื่องจากโปรเจ็กต์นี้ส่งอิมเมจที่เข้ารหัส base64 ไปยังฟังก์ชัน Lambda ผ่านเพย์โหลดเหตุการณ์ ขนาดอินพุตรวมจึงจำกัดอยู่ที่ 6 MB ซึ่งจำกัดขนาดของอิมเมจอินพุต
• การรวมพร็อกซี Lambda และ API Gateway จำกัดเวลาในการประมวลผลไว้ที่ 29 วินาทีต่อการโทร ซึ่งอาจป้องกันไม่ให้มีการสร้างคำอธิบายผลิตภัณฑ์ที่มีขนาดใหญ่ขึ้น ข้อจำกัดนี้สามารถเอาชนะได้โดยใช้แนวทางอื่น เช่น การสตรีมการตอบสนองผ่าน URL ฟังก์ชัน Lambda แทน API Gateway