python fm playground

? Python FM-Spielplatz

Willkommen beim Python Foundation Model (FM) Playground, einer Beispiel-App zur Erkundung der Verwendung von Amazon Bedrock mit boto3, dem AWS SDK für Python.

Wichtig: Diese Anwendung dient Bildungszwecken und ist nicht für den Produktionsgebrauch bestimmt.

Überblick

Dieses Repository umfasst eine FastAPI- Anwendung und ein Next.js -Frontend, die beide lokal ausführbar sind. Unten sehen Sie einen Screenshot der App in Aktion.

Wichtig

• Das Ausführen dieser Anwendung kann zu Gebühren für Ihr AWS-Konto führen. Weitere Einzelheiten finden Sie unter Amazon Bedrock-Preise.
• Diese App ist für die Ausführung in us-east-1 konfiguriert und wurde nicht in jeder AWS-Region getestet. Weitere Informationen finden Sie unter AWS Regional Services.
• Wir empfehlen, dass Sie Ihrem Code die geringsten Berechtigungen gewähren, d. h. nur die für die Anwendung erforderlichen Mindestberechtigungen. Ein IAM-Richtliniendokument mit den erforderlichen Berechtigungen finden Sie in diesem Repository unter resources/bedrock-access-policy.json (Anzeigerichtlinie).

Voraussetzungen

Stellen Sie sicher, dass Folgendes installiert ist:

• Python 3.8+ für den Backend-Server.
• Node.js (v18.17+) für die Frontend-Anwendung.
• Sie müssen über ein AWS-Konto verfügen und Ihre Standardanmeldeinformationen und die AWS-Region wie im AWS Tools and SDKs Shared Configuration and Credentials Reference Guide beschrieben konfiguriert haben.
• Sie müssen Zugriff auf die Modelle anfordern, bevor Sie sie verwenden können. Weitere Informationen finden Sie unter Modellzugriff. Um die App auszuführen, benötigen Sie Zugriff auf die folgenden Modelle in us-east-1 :
  • Anthropischer Claude
  • AI21 Labs Jurassic-2 Mid
  • Stabilität AI Stable Diffusion XL

Ausführen der Anwendung

Führen Sie nach Überprüfung der Voraussetzungen die folgenden Schritte aus:

Klonen Sie das Repository

Öffnen Sie ein Terminal, navigieren Sie zu einem Verzeichnis Ihrer Wahl und führen Sie den folgenden Befehl aus:

git clone https://github.com/build-on-aws/python-fm-playground.git

Einrichtung einer virtuellen Umgebung

Es wird empfohlen, für Ihre Python-Projekte eine virtuelle Umgebung zu verwenden, um Abhängigkeiten für jedes Projekt separat zu verwalten. Wenn Sie sich noch nicht in einer virtuellen Umgebung befinden, navigieren Sie zum Projektverzeichnis, um die virtuelle Umgebung zu erstellen und zu aktivieren:

Windows:

 cd python-fm-playground
python -m venv .venv
.venv S cripts a ctivate   

Linux/MacOS:

 cd python-fm-playground
python -m venv .venv
source .venv/bin/activate  

Backend-Setup

Installieren Sie im backend -Verzeichnis die erforderlichen Pakete, indem Sie Folgendes in der virtuellen Umgebung ausführen:

pip install -r requirements.txt

Nach erfolgreicher Installation können Sie den Backend-Server starten, indem Sie den folgenden Befehl ausführen:

python main.py

Sobald der Server läuft, sehen Sie die folgende Ausgabe:

INFO:     Started server process [14712]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:55500 (Press CTRL+C to quit)

Hinweis: Das Backend läuft standardmäßig auf Port 55500. Informationen zu Portänderungen finden Sie weiter unten.

Frontend-Setup

Navigieren Sie in einem neuen Terminalfenster zum frontend -Verzeichnis und installieren Sie die erforderlichen Pakete, indem Sie den folgenden Befehl ausführen:

npm install

Nach erfolgreicher Installation können Sie die Frontend-Anwendung starten, indem Sie den folgenden Befehl ausführen:

npm run dev

Wenn die Anwendung ausgeführt wird, sehen Sie die folgende Ausgabe:

 > [email protected] dev
> next dev

   ▲ Next.js 14.0.0
   - Local:        http://localhost:3000

 ✓ Ready in 3.3s

Hinweis: Das Frontend läuft standardmäßig auf Port 3000. Informationen zu Portänderungen finden Sie weiter unten.

Zugriff auf die Anwendung

Um auf die Anwendung zuzugreifen, öffnen Sie http://localhost:3000 in Ihrem Webbrowser.

Stoppen der Anwendung

Um die Anwendung anzuhalten, müssen Sie sowohl den Backend- als auch den Frontend-Prozess stoppen.

Stoppen des Frontends

Drücken Sie in dem Terminal, in dem das Frontend ausgeführt wird, Ctrl + C um den Vorgang zu beenden.

Stoppen des Backends

Verwenden Sie im Backend-Terminal ebenfalls die Tastenkombination Ctrl + C um den Server zu stoppen.

Deaktivieren der virtuellen Umgebung

Um die virtuelle Umgebung zu deaktivieren, können Sie einfach das Backend-Terminal schließen oder den folgenden Befehl ausführen:

Windows:

.venv S cripts d eactivate.bat

Linux/MacOS:

deactivate

Wenn Sie auf Probleme stoßen, können Sie die Prozesse zwangsweise beenden, indem Sie die Prozess-ID ( PID ) ermitteln und den kill -Befehl auf Unix-basierten Systemen oder den Task-Manager unter Windows verwenden.

Verwendung verschiedener Ports

Ändern Sie den Backend-Port in den folgenden Dateien:

• backend/config.py
• frontend/app/app.config.js

Um das Frontend auf einem anderen Port auszuführen:

npm run dev -- --port NEW_PORT

Fehlerbehebung

Die AWS-Region ist in der Anwendung fest codiert. Wenn Ihre lokale AWS_REGION Umgebungsvariable jedoch auf eine andere Region eingestellt ist, schlägt die Anwendung möglicherweise fehl. Stellen Sie in diesem Fall bitte sicher, dass Sie AWS_REGION entweder deaktivieren oder auf us-east-1 setzen.

Lizenz

Diese Bibliothek ist unter der MIT-0-Lizenz lizenziert. Siehe die LICENSE-Datei.

Sicherheit

Weitere Informationen finden Sie unter BEITRAGEN.