oaim sandbox

Sandbox de microsserviços Oracle AI

? Visualização do desenvolvedor

Descrição

O Oracle AI Microservices Sandbox oferece um ambiente simplificado onde desenvolvedores e cientistas de dados podem explorar o potencial da Inteligência Artificial Generativa (GenAI) combinada com recursos de Geração Aumentada de Recuperação (RAG). Ao integrar o Oracle Database 23ai AI Vector Search, o Sandbox permite que os usuários aprimorem os Large Language Models (LLMs) existentes por meio do RAG.

Recursos da área restrita

• Configurando modelos de incorporação e chat
• Dividindo e incorporando documentação
• Armazenando documentos incorporados no banco de dados Oracle
• Modificando prompts do sistema (Engenharia de prompts)
• Experimentando parâmetros LLM
• Estrutura de teste em conjuntos de dados de perguntas e respostas gerados automaticamente ou existentes

Começando

O Oracle AI Microservices Sandbox está disponível para instalação em seu próprio ambiente, que pode ser um desktop de desenvolvedor, um ambiente de data center local ou um provedor de nuvem. Ele pode ser executado em bare metal, dentro de um contêiner ou em um cluster Kubernetes.

Para obter mais informações, incluindo mais detalhes sobre instalação e configuração , visite a documentação.

Pré-requisitos

• Banco de dados Oracle 23ai incl. Banco de dados Oracle 23ai grátis
• Python 3.11 (para execução Bare-Metal)
• Tempo de execução do contêiner, por exemplo, docker/podman (para execução em um contêiner)
• Acesso a um modelo de incorporação e chat:
  • Chaves de API para modelos de terceiros
  • Modelos locais _*

_{*A Oracle recomenda executar modelos locais em hardware com GPUs. Para obter mais informações, consulte a documentação de infraestrutura.}

Instalação bare-metal

Para executar o aplicativo em bare metal; baixe a fonte e do diretório de nível superior:

1. Crie e ative um ambiente virtual Python:

   python3.11 -m venv .venv
   source .venv/bin/activate
   pip3 install --upgrade pip wheel

2. Instale os módulos Python:

   pip3 install -r app/requirements.txt

3. Saia do seu shell e execute novamente:

    source .venv/bin/activate

4. Inicie o Streamlit:

    cd app/src
   streamlit run oaim-sandbox.py --server.port 8501

5. Navegue para http://localhost:8501 .

6. Configure a caixa de areia.

Instalação de contêiner

Para executar o aplicativo em um contêiner; baixe a fonte e do diretório de nível superior:

1. Construa a imagem.

   No diretório app/ , crie a imagem:

   podman build -t oaim-sandbox .

2. Inicie o contêiner:

   podman run -p 8501:8501 -it --rm oaim-sandbox

3. Navegue para http://localhost:8501 .

4. Configure a caixa de areia.

Contribuindo

Este projeto aceita contribuições da comunidade. Antes de enviar uma solicitação pull, revise nosso guia de contribuição.

Segurança

Consulte o guia de segurança para conhecer nosso processo responsável de divulgação de vulnerabilidades de segurança.

Licença

Copyright (c) 2024 Oracle e/ou suas afiliadas. Lançado sob a Licença Permissiva Universal v1.0 conforme mostrado em https://oss.oracle.com/licenses/upl/

Consulte LICENÇA para obter mais detalhes.