python fm playground

? Parque FM Python

Bem-vindo ao Python Foundation Model (FM) Playground, um aplicativo de exemplo para explorar como usar o Amazon Bedrock com o boto3, o AWS SDK para Python.

Importante: Este aplicativo é para fins educacionais e não se destina ao uso em produção.

Visão geral

Este repositório inclui um aplicativo FastAPI e um frontend Next.js , ambos executáveis ​​localmente. Abaixo está uma captura de tela do aplicativo em ação.

Importante

• A execução deste aplicativo pode resultar em cobranças em sua conta da AWS. Para obter mais detalhes, consulte Preços do Amazon Bedrock.
• Este aplicativo está configurado para ser executado em us-east-1 e não foi testado em todas as regiões da AWS. Para obter mais informações, consulte Serviços regionais da AWS.
• Recomendamos que você conceda ao seu código o menor privilégio, ou seja, apenas as permissões mínimas exigidas pela aplicação. Você pode encontrar um documento de política IAM com as permissões necessárias neste repositório em resources/bedrock-access-policy.json (política de exibição).

Pré-requisitos

Certifique-se de ter o seguinte instalado:

• Python 3.8+ para o servidor back-end.
• Node.js (v18.17+) para o aplicativo frontend.
• Você deve ter uma conta da AWS e ter suas credenciais padrão e região da AWS configuradas conforme descrito no Guia de referência de credenciais e configuração compartilhada de ferramentas e SDKs da AWS.
• Você deve solicitar acesso aos modelos antes de poder usá-los. Para obter mais informações, consulte Acesso ao modelo. Para executar o aplicativo, você precisa acessar os seguintes modelos em us-east-1 :
  • Claude antrópico
  • AI21 Labs Jurássico-2 Médio
  • Estabilidade AI Difusão Estável XL

Executando o aplicativo

Após verificar os pré-requisitos, siga estas etapas:

Clonar o repositório

Abra um terminal, navegue até um diretório de sua preferência e execute o seguinte comando:

git clone https://github.com/build-on-aws/python-fm-playground.git

Configuração do ambiente virtual

Recomenda-se usar um ambiente virtual para seus projetos Python para gerenciar dependências separadamente para cada projeto. Se você ainda não estiver em um ambiente virtual, navegue até o diretório do projeto para criar e ativar o ambiente virtual:

Windows:

 cd python-fm-playground
python -m venv .venv
.venv S cripts a ctivate   

Linux/MacOS:

 cd python-fm-playground
python -m venv .venv
source .venv/bin/activate  

Configuração de back-end

No diretório backend , instale os pacotes necessários executando o seguinte no ambiente virtual:

pip install -r requirements.txt

Após a instalação bem-sucedida, você pode iniciar o servidor backend executando o seguinte comando:

python main.py

Assim que o servidor estiver em execução, você verá a seguinte saída:

INFO:     Started server process [14712]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:55500 (Press CTRL+C to quit)

Observação: o back-end é executado na porta 55500 por padrão. Veja abaixo as alterações de porta.

Configuração de front-end

Em uma nova janela de terminal , navegue até o diretório frontend e instale os pacotes necessários executando o seguinte comando:

npm install

Após a instalação bem-sucedida, você pode iniciar o aplicativo frontend executando o seguinte comando:

npm run dev

Quando o aplicativo estiver em execução, você verá a seguinte saída:

 > [email protected] dev
> next dev

   ▲ Next.js 14.0.0
   - Local:        http://localhost:3000

 ✓ Ready in 3.3s

Nota: O frontend é executado na porta 3000 por padrão. Veja abaixo as alterações de porta.

Acessando o Aplicativo

Para acessar o aplicativo, abra http://localhost:3000 em seu navegador.

Parando o aplicativo

Para interromper o aplicativo, você precisará interromper os processos de back-end e front-end.

Parando o front-end

No terminal onde o frontend está sendo executado, pressione Ctrl + C para encerrar o processo.

Parando o back-end

Da mesma forma, no terminal backend, use o atalho Ctrl + C para parar o servidor.

Desativando o Ambiente Virtual

Para desativar o ambiente virtual, basta fechar o terminal backend ou executar o seguinte comando:

Windows:

.venv S cripts d eactivate.bat

Linux/MacOS:

deactivate

Se você encontrar algum problema, poderá encerrar os processos à força, encontrando o ID do processo ( PID ) e usando o comando kill em sistemas baseados em Unix ou o Gerenciador de Tarefas no Windows.

Usando portas diferentes

Altere a porta de back-end nos seguintes arquivos:

• backend/config.py
• frontend/app/app.config.js

Para executar o frontend em uma porta diferente:

npm run dev -- --port NEW_PORT

Solução de problemas

A região da AWS está codificada no aplicativo. No entanto, se a variável de ambiente local AWS_REGION estiver definida para uma região diferente, o aplicativo poderá falhar. Nesse caso, certifique-se de cancelar a configuração AWS_REGION ou configurá-lo como us-east-1 .

Licença

Esta biblioteca está licenciada sob a licença MIT-0. Veja o arquivo LICENÇA.

Segurança

Consulte CONTRIBUINDO para obter mais informações.