oaim sandbox

Sandbox de microservicios de IA de Oracle

? Vista previa del desarrollador

Descripción

Oracle AI Microservices Sandbox proporciona un entorno optimizado donde los desarrolladores y científicos de datos pueden explorar el potencial de la Inteligencia Artificial Generativa (GenAI) combinada con las capacidades de Recuperación-Generación Aumentada (RAG). Al integrar Oracle Database 23ai AI Vector Search, Sandbox permite a los usuarios mejorar los modelos de lenguaje grande (LLM) existentes a través de RAG.

Características de la zona de pruebas

• Configurar modelos de incrustación y chat
• División e incrustación de documentación
• Almacenamiento de documentos incrustados en la base de datos Oracle
• Modificación de indicaciones del sistema (ingeniería de indicaciones)
• Experimentar con los parámetros LLM
• Marco de pruebas en conjuntos de datos de preguntas y respuestas existentes o generados automáticamente

Empezando

Oracle AI Microservices Sandbox está disponible para instalar en su propio entorno, que puede ser el escritorio de un desarrollador, un entorno de centro de datos local o un proveedor de nube. Se puede ejecutar sin sistema operativo, dentro de un contenedor o en un clúster de Kubernetes.

Para obtener más información, incluidos más detalles sobre instalación y configuración , visite la documentación.

Requisitos previos

• Base de datos Oracle 23ai incl. Base de datos Oracle 23ai gratis
• Python 3.11 (para ejecutar Bare-Metal)
• Tiempo de ejecución de contenedor, por ejemplo, docker/podman (para ejecutar en un contenedor)
• Acceso a un modelo de incrustación y chat:
  • Claves API para modelos de terceros
  • Modelos locales _*

_{*Oracle recomienda ejecutar modelos locales en hardware con GPU. Para obtener más información, consulte la documentación de infraestructura.}

Instalación sin sistema operativo

Para ejecutar la aplicación sin sistema operativo; descargue la fuente y desde el directorio de nivel superior:

1. Cree y active un entorno virtual Python:

   python3.11 -m venv .venv
   source .venv/bin/activate
   pip3 install --upgrade pip wheel

2. Instale los módulos de Python:

   pip3 install -r app/requirements.txt

3. Sal de tu shell y ejecuta nuevamente:

    source .venv/bin/activate

4. Iniciar Streamlit:

    cd app/src
   streamlit run oaim-sandbox.py --server.port 8501

5. Navegue hasta http://localhost:8501 .

6. Configure la zona de pruebas.

Instalación de contenedores

Para ejecutar la aplicación en un contenedor; descargue la fuente y desde el directorio de nivel superior:

1. Construye la imagen.

   Desde el directorio app/ , cree la imagen:

   podman build -t oaim-sandbox .

2. Inicie el contenedor:

   podman run -p 8501:8501 -it --rm oaim-sandbox

3. Navegue hasta http://localhost:8501 .

4. Configure la zona de pruebas.

Contribuyendo

Este proyecto agradece las contribuciones de la comunidad. Antes de enviar una solicitud de extracción, revise nuestra guía de contribución.

Seguridad

Consulte la guía de seguridad para conocer nuestro proceso responsable de divulgación de vulnerabilidades de seguridad.

Licencia

Copyright (c) 2024 Oracle y/o sus afiliados. Publicado bajo la Licencia permisiva universal v1.0 como se muestra en https://oss.oracle.com/licenses/upl/

Consulte LICENCIA para obtener más detalles.