genai bedrock chatbot

GenAI Chat Assistant auf AWS

Einführung

Im Mittelpunkt dieser Demo-Chat-Assistent-Anwendung steht die Entwicklung eines erweiterten Chat-Assistenten unter Verwendung von Amazon Bedrock und der serverlosen GenAI-Lösung von AWS. Die Lösung demonstriert einen Chat-Assistenten, der das Wissen des Amazon SageMaker-Entwicklerhandbuchs und der SageMaker-Instanzpreise nutzt. Dieser Chat-Assistent dient als Beispiel für die Leistungsfähigkeit von Amazon Bedrock bei der Verarbeitung und Nutzung komplexer Datensätze und seine Fähigkeit, natürliche Sprache in Amazon Athena-Abfragen umzuwandeln. Es nutzt Open-Source-Tools wie LangChain und LLamaIndex, um seine Datenverarbeitungs- und Abruffunktionen zu verbessern. Der Artikel beleuchtet auch die Integration verschiedener AWS-Ressourcen, darunter Amazon S3 für die Speicherung, Amazon Kendra als Vektorspeicher zur Unterstützung der Retrieval Augmented Generation (RAG), AWS Glue für die Datenaufbereitung, Amazon Athena für effiziente Abfragen, Amazon Lambda für serverloses Computing, und Amazon ECS für die Containerverwaltung. Zusammengenommen ermöglichen diese Ressourcen dem Chat Assistant, Inhalte aus Dokumenten und Datenbanken effektiv abzurufen und zu verwalten, was das Potenzial von Amazon Bedrock in anspruchsvollen Chat Assistant-Anwendungen verdeutlicht.

Einsatz

Detaillierte Bereitstellungsschritte finden Sie in diesem APG-Artikel: Entwickeln Sie erweiterte generative KI-Chat-basierte Assistenten mithilfe von RAG und ReAct-Eingabeaufforderung.

Eine Chat-Assistent-Lösung mit Agents für Amazon Bedrock finden Sie unter:

1. APG-Artikel: Entwickeln Sie einen vollautomatischen Chat-basierten Assistenten mithilfe von Amazon Bedrock-Agenten und Wissensdatenbanken
2. Github Repo: genai-bedrock-agent-chat-assistant

Voraussetzungen

• Docker
• AWS CDK Toolkit 2.132.1+, installiert installiert und konfiguriert. Weitere Informationen finden Sie unter Erste Schritte mit dem AWS CDK in der AWS CDK-Dokumentation.
• Python 3.11+, installiert und konfiguriert. Weitere Informationen finden Sie im Beginners Guide/Download in der Python-Dokumentation.
• Ein aktives AWS-Konto
• Ein AWS-Konto, das mithilfe des AWS CDK in us-east-1 gebootet wurde. Für den Zugriff auf die Modelle Amazon Bedrock Claude und Amazon Titan Embedding ist die AWS-Region us-east-1 erforderlich.
• Aktivieren Sie den Zugriff auf Claude- und Titan-Einbettungsmodelle im Bedrock-Dienst.

Zieltechnologie-Stack

• Amazonas-Grundgestein
• Amazon ECS
• AWS-Kleber
• AWS Lambda
• Amazon S3
• Amazon Kendra
• Amazonas Athene
• Elastischer Lastausgleicher

Zielarchitektur

Code

Das Code-Repository enthält die folgenden Dateien und Ordner:

• assets -Ordner – Die verschiedenen statischen Assets wie Architekturdiagramm, öffentlicher Datensatz usw. sind hier verfügbar
• code/lambda-container Ordner – Der Python-Code, der in der Lambda-Funktion ausgeführt wird
• code/streamlit-app Ordner – Der Python-Code, der als Container-Image in ECS ausgeführt wird
• tests -Ordner – Die Python-Dateien, die zum Unit-Testen der AWS CDK-Konstrukte ausgeführt werden
• code/code_stack.py – Das AWS CDK erstellt Python-Dateien, die zum Erstellen von AWS-Ressourcen verwendet werden
• app.py – Die AWS CDK-Stack-Python-Dateien, die zum Bereitstellen von AWS-Ressourcen im AWS-Zielkonto verwendet werden
• requirements.txt – Die Liste aller Python-Abhängigkeiten, die für AWS CDK installiert werden müssen
• requirements-dev.txt – Die Liste aller Python-Abhängigkeiten, die installiert werden müssen, damit AWS CDK die Unit-Test-Suite ausführen kann
• cdk.json – Die Eingabedatei zur Bereitstellung der zum Hochfahren von Ressourcen erforderlichen Werte

Hinweis: Der AWS CDK-Code verwendet L3-Konstrukte und von AWS verwaltete IAM-Richtlinien für die Bereitstellung der Lösung.

Nützliche Befehle

• cdk ls listet alle Stacks in der App auf
• cdk synth gibt die synthetisierte CloudFormation-Vorlage aus
• cdk deploy stellt diesen Stack in Ihrem Standard-AWS-Konto/Ihrer Standard-AWS-Region bereit
• cdk diff vergleicht den bereitgestellten Stack mit dem aktuellen Status
• cdk docs

Sicherheit

Weitere Informationen finden Sie unter BEITRAGEN.

Lizenz

Diese Bibliothek ist unter der MIT-0-Lizenz lizenziert. Siehe die LICENSE-Datei.