oaim sandbox

Bac à sable de microservices Oracle IA

? Aperçu du développeur

Description

L' Oracle AI Microservices Sandbox fournit un environnement rationalisé dans lequel les développeurs et les scientifiques des données peuvent explorer le potentiel de l'intelligence artificielle générative (GenAI) combiné aux capacités de génération de récupération augmentée (RAG). En intégrant Oracle Database 23ai AI Vector Search, le Sandbox permet aux utilisateurs d'améliorer les grands modèles linguistiques (LLM) existants via RAG.

Fonctionnalités du bac à sable

• Configuration des modèles d'intégration et de discussion
• Fractionnement et intégration de la documentation
• Stockage des documents incorporés dans la base de données Oracle
• Modification des invites système (Ingénierie des invites)
• Expérimenter avec les paramètres LLM
• Framework de test sur des ensembles de données Q&A générés automatiquement ou existants

Commencer

Le bac à sable Oracle AI Microservices peut être installé dans votre propre environnement, qui peut être le bureau d'un développeur, un environnement de centre de données sur site ou un fournisseur de cloud. Il peut être exécuté sur système nu, dans un conteneur ou dans un cluster Kubernetes.

Pour plus d'informations, y compris plus de détails sur l'installation et la configuration, veuillez consulter la documentation.

Conditions préalables

• Base de données Oracle 23ai incl. Base de données Oracle 23ai gratuite
• Python 3.11 (pour exécuter Bare-Metal)
• Container Runtime, par exemple docker/podman (pour s'exécuter dans un conteneur)
• Accès à un modèle d'intégration et de chat :
  • Clés API pour les modèles tiers
  • Modèles sur site _*

_{*Oracle recommande d'exécuter des modèles sur site sur du matériel doté de GPU. Pour plus d’informations, veuillez consulter la documentation sur l’infrastructure.}

Installation sans système d'exploitation

Pour exécuter l'application sur du métal nu ; téléchargez la source et depuis le répertoire de niveau supérieur :

1. Créez et activez un environnement virtuel Python :

   python3.11 -m venv .venv
   source .venv/bin/activate
   pip3 install --upgrade pip wheel

2. Installez les modules Python :

   pip3 install -r app/requirements.txt

3. Quittez votre shell et exécutez à nouveau :

    source .venv/bin/activate

4. Démarrer Streamlit :

    cd app/src
   streamlit run oaim-sandbox.py --server.port 8501

5. Accédez à http://localhost:8501 .

6. Configurez le bac à sable.

Installation de conteneurs

Pour exécuter l'application dans un conteneur ; téléchargez la source et depuis le répertoire de niveau supérieur :

1. Construisez l’image.

   Depuis le répertoire app/ , créez Image :

   podman build -t oaim-sandbox .

2. Démarrez le conteneur :

   podman run -p 8501:8501 -it --rm oaim-sandbox

3. Accédez à http://localhost:8501 .

4. Configurez le bac à sable.

Contribuer

Ce projet accueille les contributions de la communauté. Avant de soumettre une pull request, veuillez consulter notre guide de contribution.

Sécurité

Veuillez consulter le guide de sécurité pour connaître notre processus responsable de divulgation des vulnérabilités de sécurité.

Licence

Copyright (c) 2024 Oracle et/ou ses sociétés affiliées. Publié sous la licence permissive universelle v1.0, comme indiqué sur https://oss.oracle.com/licenses/upl/

Voir LICENCE pour plus de détails.