python fm playground

? Детская площадка Python FM

Добро пожаловать на площадку Python Foundation Model (FM) — пример приложения, позволяющий узнать, как использовать Amazon Bedrock с boto3, AWS SDK для Python.

Важно: Это приложение предназначено для образовательных целей и не предназначено для промышленного использования.

Обзор

Этот репозиторий включает в себя приложение FastAPI и интерфейс Next.js , оба исполняемые локально. Ниже приведен скриншот приложения в действии.

Важный

• Запуск этого приложения может привести к списанию средств с вашей учетной записи AWS. Более подробную информацию см. в разделе «Цены на Amazon Bedrock».
• Это приложение настроено для работы в us-east-1 и не тестировалось в каждом регионе AWS. Дополнительную информацию см. в разделе Региональные сервисы AWS.
• Мы рекомендуем предоставить вашему коду минимальные привилегии, т. е. только минимальные разрешения, необходимые приложению. Вы можете найти документ политики IAM с необходимыми разрешениями в этом репозитории по адресу resources/bedrock-access-policy.json (политика отображения).

Предварительные условия

Убедитесь, что у вас установлено следующее:

• Python 3.8+ для внутреннего сервера.
• Node.js (v18.17+) для внешнего приложения.
• У вас должна быть учетная запись AWS, а также учетные данные по умолчанию и регион AWS, настроенные, как описано в Справочном руководстве по общей конфигурации и учетным данным инструментов и SDK AWS.
• Вы должны запросить доступ к моделям, прежде чем сможете их использовать. Дополнительные сведения см. в разделе Доступ к модели. Чтобы запустить приложение, вам необходим доступ к следующим моделям в us-east-1 :
  • Антропный Клод
  • AI21 Labs Юрский период-2 Средний
  • Стабильность AI Stable Diffusion XL

Запуск приложения

После проверки предварительных условий выполните следующие действия:

Клонировать репозиторий

Откройте терминал, перейдите в выбранный вами каталог и выполните следующую команду:

git clone https://github.com/build-on-aws/python-fm-playground.git

Настройка виртуальной среды

Рекомендуется использовать виртуальную среду для ваших проектов Python, чтобы управлять зависимостями отдельно для каждого проекта. Если вы еще не находитесь в виртуальной среде, перейдите в каталог проекта, чтобы создать и активировать виртуальную среду:

Окна:

 cd python-fm-playground
python -m venv .venv
.venv S cripts a ctivate   

Linux/MacOS:

 cd python-fm-playground
python -m venv .venv
source .venv/bin/activate  

Настройка серверной части

Во backend каталоге установите необходимые пакеты, выполнив в виртуальной среде следующую команду:

pip install -r requirements.txt

После успешной установки вы можете запустить серверный сервер, выполнив следующую команду:

python main.py

После запуска сервера вы увидите следующий вывод:

INFO:     Started server process [14712]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:55500 (Press CTRL+C to quit)

Примечание. По умолчанию серверная часть работает на порту 55500. См. ниже изменения портов.

Настройка внешнего интерфейса

В новом окне терминала перейдите в каталог frontend и установите необходимые пакеты, выполнив следующую команду:

npm install

После успешной установки вы можете запустить интерфейсное приложение, выполнив следующую команду:

npm run dev

Когда приложение запустится, вы увидите следующий вывод:

 > [email protected] dev
> next dev

   ▲ Next.js 14.0.0
   - Local:        http://localhost:3000

 ✓ Ready in 3.3s

Примечание. По умолчанию внешний интерфейс работает на порту 3000. См. ниже изменения портов.

Доступ к приложению

Чтобы получить доступ к приложению, откройте http://localhost:3000 в своем веб-браузере.

Остановка приложения

Чтобы остановить приложение, вам необходимо остановить как внутренние, так и внешние процессы.

Остановка фронтенда

В терминале, где запущен интерфейс, нажмите Ctrl + C чтобы завершить процесс.

Остановка бэкэнда

Аналогично, в серверном терминале используйте сочетание клавиш Ctrl + C , чтобы остановить сервер.

Деактивация виртуальной среды

Чтобы деактивировать виртуальную среду, вы можете просто закрыть внутренний терминал или выполнить следующую команду:

Окна:

.venv S cripts d eactivate.bat

Linux/MacOS:

deactivate

Если у вас возникнут какие-либо проблемы, вы можете принудительно завершить процессы, найдя идентификатор процесса ( PID ) и используя команду kill в системах на базе Unix или диспетчер задач в Windows.

Использование разных портов

Измените внутренний порт в следующих файлах:

• backend/config.py
• frontend/app/app.config.js

Чтобы запустить интерфейс на другом порту:

npm run dev -- --port NEW_PORT

Поиск неисправностей

Регион AWS жестко запрограммирован в приложении. Однако если для вашей локальной переменной среды AWS_REGION задан другой регион, приложение может выйти из строя. В этом случае обязательно либо отключите AWS_REGION , либо установите для него значение us-east-1 .

Лицензия

Эта библиотека лицензируется по лицензии MIT-0. См. файл ЛИЦЕНЗИИ.

Безопасность

См. ВКЛАД для получения дополнительной информации.