oaim sandbox

Oracle AIマイクロサービスサンドボックス

?開発者プレビュー

説明

Oracle AI Microservices Sandboxは、開発者やデータ・サイエンティストが検索拡張生成(RAG)機能と組み合わせた生成人工知能(GenAI)の可能性を探索できる合理化された環境を提供します。 Oracle Database 23ai AI Vector Searchを統合することにより、サンドボックスを使用すると、ユーザーはRAGを通じて既存の大規模言語モデル(LLM)を拡張できます。

サンドボックスの機能

• 埋め込みモデルとチャットモデルの構成
• ドキュメントの分割と埋め込み
• 埋め込みドキュメントのOracleデータベースへの保存
• システムプロンプトの変更 (プロンプトエンジニアリング)
• LLMパラメータを試してみる
• 自動生成または既存の Q&A データセットでのテスト フレームワーク

はじめる

Oracle AI Microservices Sandboxは、開発者のデスクトップ、オンプレミスのデータセンター環境、クラウド・プロバイダなどの独自の環境にインストールできます。ベアメタル上、コンテナ内、または Kubernetes クラスター内で実行できます。

セットアップと構成の詳細を含む詳細については、ドキュメントを参照してください。

前提条件

• Oracle Database 23ai を含むOracle データベース 23ai 無料
• Python 3.11 (ベアメタルの実行用)
• コンテナ ランタイム 例: docker/podman (コンテナ内で実行するため)
• 埋め込みモデルとチャット モデルへのアクセス:
  • サードパーティモデルのAPIキー
  • オンプレミス モデル_*

_{*Oracle では、GPU を備えたハードウェア上でオンプレミス モデルを実行することをお勧めします。詳細については、インフラストラクチャのドキュメントを参照してください。}

ベアメタルのインストール

ベアメタル上でアプリケーションを実行するには;最上位ディレクトリからソースをダウンロードします。

1. Python 仮想環境を作成してアクティブ化します。

   python3.11 -m venv .venv
   source .venv/bin/activate
   pip3 install --upgrade pip wheel

2. Python モジュールをインストールします。

   pip3 install -r app/requirements.txt

3. シェルを終了して、再度実行します。

    source .venv/bin/activate

4. Streamlit を開始します。

    cd app/src
   streamlit run oaim-sandbox.py --server.port 8501

5. http://localhost:8501に移動します。

6. サンドボックスを構成します。

コンテナの設置

コンテナ内でアプリケーションを実行するには;最上位ディレクトリからソースをダウンロードします。

1. イメージを構築します。

   app/ディレクトリからイメージをビルドします。

   podman build -t oaim-sandbox .

2. コンテナを起動します。

   podman run -p 8501:8501 -it --rm oaim-sandbox

3. http://localhost:8501に移動します。

4. サンドボックスを構成します。

貢献する

このプロジェクトはコミュニティからの貢献を歓迎します。プル リクエストを送信する前に、コントリビュート ガイドを確認してください。

安全

当社の責任あるセキュリティ脆弱性開示プロセスについては、セキュリティ ガイドを参照してください。

ライセンス

Copyright (c) 2024 Oracle および/またはその関連会社。 https://oss.oracle.com/licenses/upl/ に示されているように、Universal Permissive License v1.0 に基づいてリリースされています。

詳細については、「ライセンス」を参照してください。