oaim sandbox

Kotak Pasir Layanan Mikro Oracle AI

? Pratinjau Pengembang

Keterangan

Oracle AI Microservices Sandbox menyediakan lingkungan yang efisien di mana pengembang dan ilmuwan data dapat mengeksplorasi potensi Generative Artificial Intelligence (GenAI) yang dikombinasikan dengan kemampuan Retrieval-Augmented Generation (RAG). Dengan mengintegrasikan Oracle Database 23ai AI Vector Search, Sandbox memungkinkan pengguna untuk menyempurnakan Large Language Model (LLM) yang ada melalui RAG.

Fitur Kotak Pasir

• Mengonfigurasi Model Penyematan dan Obrolan
• Memisahkan dan Menanamkan Dokumentasi
• Menyimpan Dokumen Tertanam ke dalam Database Oracle
• Memodifikasi Perintah Sistem (Rekayasa Prompt)
• Bereksperimen dengan Parameter LLM
• Kerangka Pengujian pada kumpulan data Tanya Jawab yang dibuat secara otomatis atau sudah ada

Memulai

Oracle AI Microservices Sandbox tersedia untuk diinstal di lingkungan Anda sendiri, yang mungkin berupa desktop pengembang, lingkungan pusat data lokal, atau penyedia cloud. Ini dapat dijalankan pada bare-metal, di dalam container, atau di Cluster Kubernetes.

Untuk informasi lebih lanjut, termasuk detail lebih lanjut tentang Penyiapan dan Konfigurasi, silakan kunjungi dokumentasi.

Prasyarat

• Oracle Database 23ai termasuk. Basis Data Oracle 23ai Gratis
• Python 3.11 (untuk menjalankan Bare-Metal)
• Container Runtime misalnya docker/podman (untuk berjalan di dalam Container)
• Akses ke Model Penyematan dan Obrolan:
  • Kunci API untuk Model Pihak Ketiga
  • Model Lokal _*

_{*Oracle merekomendasikan untuk menjalankan Model Lokal pada perangkat keras dengan GPU. Untuk informasi lebih lanjut, silakan tinjau dokumentasi Infrastruktur.}

Instalasi Bare-Logam

Untuk menjalankan aplikasi pada bare-metal; unduh sumber dan dari direktori tingkat atas:

1. Buat dan aktifkan Lingkungan Virtual Python:

   python3.11 -m venv .venv
   source .venv/bin/activate
   pip3 install --upgrade pip wheel

2. Instal modul Python:

   pip3 install -r app/requirements.txt

3. Keluar dari shell Anda dan jalankan lagi:

    source .venv/bin/activate

4. Mulai Streamlit:

    cd app/src
   streamlit run oaim-sandbox.py --server.port 8501

5. Arahkan ke http://localhost:8501 .

6. Konfigurasikan Kotak Pasir.

Instalasi Kontainer

Untuk menjalankan aplikasi dalam sebuah wadah; unduh sumber dan dari direktori tingkat atas:

1. Bangun gambarnya.

   Dari direktori app/ , buat Gambar:

   podman build -t oaim-sandbox .

2. Mulai Kontainer:

   podman run -p 8501:8501 -it --rm oaim-sandbox

3. Arahkan ke http://localhost:8501 .

4. Konfigurasikan Kotak Pasir.

Berkontribusi

Proyek ini menyambut baik kontribusi dari komunitas. Sebelum mengirimkan permintaan penarikan, harap tinjau panduan kontribusi kami.

Keamanan

Silakan baca panduan keamanan untuk proses pengungkapan kerentanan keamanan kami yang bertanggung jawab.

Lisensi

Hak Cipta (c) 2024 Oracle dan/atau afiliasinya. Dirilis di bawah Lisensi Permisif Universal v1.0 seperti yang ditunjukkan di https://oss.Oracle.com/licenses/upl/

Lihat LISENSI untuk lebih jelasnya.