Anleitung zum Erstellen von Produktbeschreibungen mit Amazon Bedrock

Generieren von Produktbeschreibungen mit Bedrock

Diese Lösung enthält ein serverloses Backend und eine ReactJS-Frontend-Anwendung, die Produktbeschreibungen aus Bildern und Texteingaben erstellt und Produktbeschreibungen mithilfe des neuen verwalteten generativen KI-Dienstes Amazon Bedrock verbessert und übersetzt.

Inhaltsverzeichnis

1. Überblick
   • Kosten
2. Voraussetzungen
3. Bereitstellungsschritte
4. Bereitstellungsvalidierung
5. Ausführen der Anleitung
6. Nächste Schritte
7. Aufräumen
8. Zusätzliche Überlegungen und Einschränkungen

Überblick

Einzelhandelsunternehmen verfügen oft über viele tausend oder Millionen von Produkten, die alle genaue und wirksame Beschreibungen erfordern. Einzelhändler verfügen häufig über vorhandene Metadaten oder Bilder für diese Produkte, die als Eingaben für generative KI-Modelle bereitgestellt werden können, um den Prozess der Produktbeschreibungserstellung erheblich zu beschleunigen.

1. Der Kunde sendet eine Anfrage mit Eingabedaten (entweder ein Produktbild oder eine grundlegende Produktbeschreibung zur Erweiterung) an die Amazon API Gateway REST API.
2. Amazon API Gateway leitet die Anfrage über eine Proxy-Integration an AWS Lambda weiter.
3. Bei der Bearbeitung von Produktbildeingaben ruft AWS Lambda Amazon Rekognition auf, das maschinelles Lernen nutzt, um Objekte im Bild zu erkennen. Beschreibungen der erkannten Objekte können dann in Folgeschritte zur Erstellung einer Produktbeschreibung eingespeist werden.
4. AWS Lambda ruft große Sprachmodelle (LLMs) auf, die von Amazon Bedrock gehostet werden, wie etwa die Amazon Titan-Sprachmodelle, um Produktbeschreibungen zu erstellen. Die LLMs können entweder vorhandene grundlegende Textbeschreibungen verbessern oder neue Beschreibungen basierend auf den von Amazon Rekognition erkannten Objekten generieren.
5. AWS Lambda leitet die Antwort an Amazon API Gateway weiter.
6. Schließlich gibt Amazon API Gateway die HTTP-Antwort an den Client zurück.

Kosten

Sie sind für die Kosten der AWS-Dienste verantwortlich, die Sie während der Ausführung dieser Anleitung nutzen. Ab November 2023 betragen die Kosten für die Ausführung dieser Anleitung mit den Standardeinstellungen im Osten der USA (Nord-Virginia) etwa 86 US-Dollar pro Monat für die Verarbeitung von 1.000 Produkten pro Monat.

Diese Anleitung umfasst die AWS-Dienste Rekognition, Bedrock, Cognito, Lambda, API Gateway und CloudWatch mit folgenden Kosten:

• Anerkennung: 0,001 $ pro Bild (für die erste Million Bilder)
• Grundgestein: Abhängig vom Modell. Claude Instant kostet beispielsweise 0,00163 $ pro 1000 Eingabe-Tokens und 0,00551 $ pro 1000 Ausgabe-Tokens, und das AI21-Jurassic-Modell kostet 0,0125 $ pro 1000 Eingabe-/Ausgabe-Tokens
• Cognito: Kostenlos für bis zu 50.000 Benutzer (danach 0,0055 USD pro monatlich aktivem Benutzer)
• API Gateway: 3,50 $ pro Million Anfragen
• Lambda: 0,0000166667 $ pro GB/Sekunde oder 0,0005 $ pro Aufruf für diesen Leitfaden unter Annahme einer Dauer im ungünstigsten Fall von 30 Sekunden
• CloudWatch-Protokolle: 0,50 $ pro gesammeltem GB, 0,03 $ pro Monat und gespeichertem GB

Konservativ (mit einem Fehler auf der Seite der Überschätzung) wird diese Lösung 1000 Mal pro Monat zum Generieren von Produktbeschreibungen auf der Grundlage von Eingabebildern verwendet (einschließlich der Erstellung von Übersetzungen ins Spanische, Deutsche und Französische) und im schlimmsten Fall von 30 Sekunden pro Lambda-Funktionsaufruf ausgegangen 1000 Ein-/Ausgabe-Tokens für alle Anrufe an Claude Instant- und Jurassic-Modelle, die Kosten würden ungefähr wie folgt betragen:

• Anerkennung: 0,001 $ pro Bild * 1000 Bilder = 1,00 $
• Grundstein: 0,00163 $ + 0,00551 $ pro Anruf bei Claude Instant * 1000 Anrufe = 7,14 $ und 0,0125 $ * 2 pro Anruf bei Jurassic * 1000 Anrufe * 3 Sprachen = 75 $
• Cognito: Kostenlos
• API Gateway: 3,50 $ pro Million Aufrufe * 5000 Aufrufe insgesamt = 0,0175 $
• Lambda: 0,0005 $ pro Aufruf * 5000 Aufrufe insgesamt = 2,50 $
• CloudWatch-Protokolle: Gehen Sie konservativ davon aus, dass 1 GB gesammelt werden, was etwa 0,53 US-Dollar für den ersten Monat kostet
• GESAMT: 86 $ pro Monat bei 1000 Nutzungen pro Monat (oder nur 11 $ pro Monat, wenn Übersetzungen deaktiviert sind)

Voraussetzungen

Sie müssen alle Voraussetzungen auf Ihrem lokalen Computer installieren:

1. Python 3.8 oder höher
2. Node.js & npm
3. Installieren Sie das AWS CDK Toolkit (den cdk -Befehl) wie hier dokumentiert. Sie müssen cdk bootstrap auch ausführen, wenn Sie das CDK noch nicht wie hier beschrieben in Ihrem Konto verwendet haben.
4. Die AWS CLI
5. Docker ist erforderlich, damit das CDK den Lambda-Code zusammen mit den erforderlichen Python-Abhängigkeiten verpacken kann
6. Das Projekt sollte in jeder macOS-, Linux- oder Windows-Umgebung mit den oben genannten Voraussetzungen funktionieren, das Projekt wurde jedoch unter macOS und Linux getestet. Einige Befehle und Dienstprogrammskripte setzen eine Bash-Shell-Umgebung voraus.
7. Claude Instant, Stable Diffusion SDXL0.8 und AI21 Jurassic-2 Mid müssen in Bedrock aktiviert werden, wie hier dokumentiert

HINWEIS: Docker muss installiert sein und ausgeführt werden . Sie können sicherstellen, dass der Docker-Daemon ausgeführt wird, indem Sie sicherstellen, dass ein Befehl wie docker ps fehlerfrei ausgeführt wird. Wenn keine Container ausgeführt werden, sollte docker ps eine leere Liste von Containern wie diese zurückgeben:

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

Bereitstellungsschritte

1. Erstellen Sie eine EC2-Umgebung in AWS Cloud9, starten Sie die EC2-Instanz in einem öffentlichen Subnetz und notieren Sie sich ihre öffentliche IPv4-Adresse (#cloud9_ec2_ip).

2. Ändern Sie die Größe des EBS-Volumes, das die Umgebung (in Schritt 1 erstellt) verwendet, auf mindestens 20 GB. Standardmäßig sind 10 GB für t2.micro im Lieferumfang enthalten.

3. Klonen Sie das Repo:

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd in den Repo-Ordner:

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (Optional) Erstellen Sie eine neue Python-Virtualenv für projektspezifische Abhängigkeiten:

    python -m venv .env && source .env/bin/activate
   

6. CDK-Abhängigkeiten installieren:

    pip install -r deployment/requirements.txt
   

7. Bootstrapping für AWS CDK, falls noch nicht geschehen:

    cd deployment && cdk bootstrap
   

8. Stellen Sie das Backend bereit:

    cd deployment && cdk deploy
   

9. cd zurück zum Projektstamm:

    cd ..
   

10. Erstellen Sie einen ersten Cognito-Benutzer:

     deployment/create-user.sh <>
    

11. Aktualisieren Sie config.js mit den entsprechenden Werten aus den CDK-Stack-Ausgaben. Dies kann automatisch durch Ausführen erfolgen

     deployment/update-config.sh
    

12. Frontend-Abhängigkeiten installieren:

     cd source/frontend && npm install
    

13. Führen Sie die Beispiel-Client-App aus und notieren Sie die Portnummer (#web_port), auf die das Webpack lauscht, z. B. 8080.

     npm start
    

14. Öffnen Sie die in Schritt 1 erstellten Sicherheitsgruppen des EC2, fügen Sie eine Eingangsregel hinzu, die benutzerdefiniertes TCP, Portbereich #web_port, Quelle „Meine IP“ zulässt, und speichern Sie dann die Regeln.

Bereitstellungsvalidierung

Die Bereitstellung sollte erfolgreich sein, wenn alle oben genannten Befehle ohne Fehler ausgeführt werden. Sie können die erstellten Backend-Ressourcen durchsuchen, indem Sie in der AWS-Konsole zum CloudFormation-Dienst navigieren, den Stack mit dem Namen LambdaStack suchen und seine Ressourcen durchsuchen.

Ausführen der Anleitung

Sie können die Demo-Web-App ausprobieren, indem Sie die folgenden Schritte ausführen:

1. Überprüfen Sie Ihre E-Mails auf ein temporäres Passwort
2. Greifen Sie über einen lokalen Browser unter #cloud9_public_ip:#web_port auf die App zu
3. Befolgen Sie die Anweisungen, um sich anzumelden und Ihr Passwort zu ändern
4. Um eine Produktbeschreibung aus einem Bild zu erstellen (Standardmodus), suchen Sie nach einer Bilddatei für ein Produkt oder Objekt
5. Nach dem Hochladen werden eine Produktbeschreibung und Übersetzungen in mehrere Sprachen generiert

Nächste Schritte

Weitere Ressourcen zur Verwendung von Amazon Bedrock finden Sie auf der Bedrock-Produktseite.

Aufräumen

Die bereitgestellte Infrastruktur kann durch Ausführen des folgenden Befehls gelöscht werden:

 cd deployment && cdk destroy

Zusätzliche Überlegungen und Einschränkungen

• Da dieses Projekt Base64-codierte Bilder über die Ereignisnutzlast an Lambda-Funktionen übergibt, ist die Gesamteingabegröße auf 6 MB begrenzt, wodurch die Größe der Eingabebilder begrenzt wird.
• Die Proxy-Integration von Lambda und API Gateway begrenzt die Verarbeitungszeit auf 29 Sekunden pro Aufruf, was die Generierung größerer Produktbeschreibungen verhindern könnte. Diese Einschränkung könnte durch alternative Ansätze überwunden werden, beispielsweise das Streamen von Antworten über Lambda-Funktions-URLs anstelle von API Gateway.