python fm playground

? Terrain de jeu Python FM

Bienvenue dans Python Foundation Model (FM) Playground, un exemple d'application pour découvrir comment utiliser Amazon Bedrock avec boto3, le kit AWS SDK pour Python.

Important : Cette application est à des fins éducatives et n'est pas destinée à une utilisation en production.

Aperçu

Ce référentiel comprend une application FastAPI et une interface Next.js , toutes deux exécutables localement. Vous trouverez ci-dessous une capture d'écran de l'application en action.

Important

• L'exécution de cette application peut entraîner des frais sur votre compte AWS. Pour plus de détails, consultez Tarification Amazon Bedrock.
• Cette application est configurée pour s'exécuter dans us-east-1 et n'a pas été testée dans toutes les régions AWS. Pour plus d'informations, consultez Services régionaux AWS.
• Nous vous recommandons d'accorder à votre code le moindre privilège, c'est-à-dire uniquement les autorisations minimales requises par l'application. Vous pouvez trouver un document de stratégie IAM avec les autorisations requises dans ce référentiel à resources/bedrock-access-policy.json (politique d'affichage).

Conditions préalables

Assurez-vous que les éléments suivants sont installés :

• Python 3.8+ pour le serveur backend.
• Node.js (v18.17+) pour l'application frontend.
• Vous devez disposer d'un compte AWS et avoir vos informations d'identification par défaut et votre région AWS configurées comme décrit dans le Guide de référence de la configuration et des informations d'identification partagées des outils et SDK AWS.
• Vous devez demander l'accès aux modèles avant de pouvoir les utiliser. Pour plus d’informations, consultez Accès au modèle. Pour exécuter l'application, vous devez accéder aux modèles suivants dans us-east-1 :
  • Claude Anthropique
  • AI21 Labs Jurassic-2 Milieu
  • Stabilité AI Stable Diffusion XL

Exécution de l'application

Après avoir vérifié les prérequis, suivez ces étapes :

Cloner le référentiel

Ouvrez un terminal, accédez au répertoire de votre choix et exécutez la commande suivante :

git clone https://github.com/build-on-aws/python-fm-playground.git

Configuration de l'environnement virtuel

Il est recommandé d'utiliser un environnement virtuel pour vos projets Python afin de gérer les dépendances séparément pour chaque projet. Si vous n'êtes pas déjà dans un environnement virtuel, accédez au répertoire du projet pour créer et activer l'environnement virtuel :

Fenêtres :

 cd python-fm-playground
python -m venv .venv
.venv S cripts a ctivate   

Linux/MacOS :

 cd python-fm-playground
python -m venv .venv
source .venv/bin/activate  

Configuration du back-end

Dans le répertoire backend , installez les packages requis en exécutant ce qui suit dans l'environnement virtuel :

pip install -r requirements.txt

Après une installation réussie, vous pouvez démarrer le serveur backend en exécutant la commande suivante :

python main.py

Une fois le serveur exécuté, vous verrez le résultat suivant :

INFO:     Started server process [14712]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:55500 (Press CTRL+C to quit)

Remarque : Le backend s'exécute sur le port 55500 par défaut. Voir ci-dessous pour les changements de port.

Configuration frontale

Dans une nouvelle fenêtre de terminal , accédez au répertoire frontend et installez les packages requis en exécutant la commande suivante :

npm install

Après une installation réussie, vous pouvez démarrer l'application frontale en exécutant la commande suivante :

npm run dev

Lorsque l'application est en cours d'exécution, vous verrez le résultat suivant :

 > [email protected] dev
> next dev

   ▲ Next.js 14.0.0
   - Local:        http://localhost:3000

 ✓ Ready in 3.3s

Remarque : Le frontend s'exécute sur le port 3000 par défaut. Voir ci-dessous pour les changements de port.

Accéder à l'application

Pour accéder à l'application, ouvrez http://localhost:3000 dans votre navigateur Web.

Arrêt de l'application

Pour arrêter l'application, vous devrez arrêter les processus backend et frontend.

Arrêter le front-end

Dans le terminal où le frontend est exécuté, appuyez sur Ctrl + C pour terminer le processus.

Arrêter le back-end

De même, dans le terminal backend, utilisez le raccourci Ctrl + C pour arrêter le serveur.

Désactivation de l'environnement virtuel

Pour désactiver l'environnement virtuel, vous pouvez simplement fermer le terminal backend, ou exécuter la commande suivante :

Fenêtres :

.venv S cripts d eactivate.bat

Linux/MacOS :

deactivate

Si vous rencontrez des problèmes, vous pouvez mettre fin de force aux processus en recherchant l'ID du processus ( PID ) et en utilisant la commande kill sur les systèmes Unix ou le Gestionnaire des tâches sous Windows.

Utiliser différents ports

Modifiez le port backend dans les fichiers suivants :

• backend/config.py
• frontend/app/app.config.js

Pour exécuter le frontend sur un autre port :

npm run dev -- --port NEW_PORT

Dépannage

La région AWS est codée en dur dans l'application. Toutefois, si votre variable d'environnement AWS_REGION locale est définie sur une région différente, l'application peut échouer. Dans ce cas, assurez-vous de désactiver AWS_REGION ou de le définir sur us-east-1 .

Licence

Cette bibliothèque est sous licence MIT-0. Voir le fichier LICENCE.

Sécurité

Voir CONTRIBUTION pour plus d'informations.