python fm playground

? Taman Bermain Python FM

Selamat datang di Python Foundation Model (FM) Playground, sebuah contoh aplikasi untuk menjelajahi cara menggunakan Amazon Bedrock dengan boto3, AWS SDK for Python.

Penting: Aplikasi ini untuk tujuan pendidikan dan tidak dimaksudkan untuk penggunaan produksi.

Ringkasan

Repositori ini mencakup aplikasi FastAPI dan frontend Next.js , keduanya dapat dieksekusi secara lokal. Di bawah ini adalah tangkapan layar aplikasi yang sedang beraksi.

Penting

• Menjalankan aplikasi ini mungkin mengakibatkan biaya ke akun AWS Anda. Untuk detail lebih lanjut, lihat Harga Amazon Bedrock.
• Aplikasi ini dikonfigurasi untuk berjalan di us-east-1 dan belum diuji di setiap Wilayah AWS. Untuk informasi lebih lanjut lihat Layanan Regional AWS.
• Kami menyarankan Anda memberikan hak istimewa paling sedikit pada kode Anda, yaitu hanya izin minimum yang diperlukan oleh aplikasi. Anda dapat menemukan dokumen Kebijakan IAM dengan izin yang diperlukan dalam repositori ini di resources/bedrock-access-policy.json (kebijakan tampilan).

Prasyarat

Pastikan Anda telah menginstal yang berikut ini:

• Python 3.8+ untuk server backend.
• Node.js (v18.17+) untuk aplikasi frontend.
• Anda harus memiliki akun AWS, dan memiliki kredensial default serta Wilayah AWS yang dikonfigurasi seperti yang dijelaskan dalam Panduan Referensi Konfigurasi dan Kredensial Bersama Alat dan SDK AWS.
• Anda harus meminta akses ke model sebelum dapat menggunakannya. Untuk informasi selengkapnya, lihat Akses model. Untuk menjalankan aplikasi, Anda memerlukan akses ke model berikut di us-east-1 :
  • Claude antropis
  • Lab AI21 Jurassic-2 Pertengahan
  • Stabilitas AI Difusi Stabil XL

Menjalankan Aplikasi

Setelah memverifikasi prasyarat, ikuti langkah-langkah berikut:

Kloning repositori

Buka terminal, navigasikan ke direktori pilihan Anda, dan jalankan perintah berikut:

git clone https://github.com/build-on-aws/python-fm-playground.git

Pengaturan Lingkungan Virtual

Disarankan untuk menggunakan lingkungan virtual untuk proyek Python Anda guna mengelola dependensi secara terpisah untuk setiap proyek. Jika Anda belum berada dalam lingkungan virtual, navigasikan ke direktori proyek untuk membuat dan mengaktifkan lingkungan virtual:

jendela:

 cd python-fm-playground
python -m venv .venv
.venv S cripts a ctivate   

Linux/MacOS:

 cd python-fm-playground
python -m venv .venv
source .venv/bin/activate  

Pengaturan Backend

Di direktori backend , instal paket yang diperlukan dengan menjalankan perintah berikut di lingkungan virtual:

pip install -r requirements.txt

Setelah instalasi berhasil, Anda dapat memulai server backend dengan menjalankan perintah berikut:

python main.py

Setelah server berjalan, Anda akan melihat output berikut:

INFO:     Started server process [14712]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:55500 (Press CTRL+C to quit)

Catatan: Backend berjalan pada port 55500 secara default. Lihat di bawah untuk perubahan port.

Pengaturan Bagian Depan

Di jendela terminal baru , navigasikan ke direktori frontend dan instal paket yang diperlukan dengan menjalankan perintah berikut:

npm install

Setelah instalasi berhasil Anda dapat memulai aplikasi frontend dengan menjalankan perintah berikut:

npm run dev

Saat aplikasi berjalan, Anda akan melihat output berikut:

 > [email protected] dev
> next dev

   ▲ Next.js 14.0.0
   - Local:        http://localhost:3000

 ✓ Ready in 3.3s

Catatan: Frontend berjalan pada port 3000 secara default. Lihat di bawah untuk perubahan port.

Mengakses Aplikasi

Untuk mengakses aplikasi, buka http://localhost:3000 di browser web Anda.

Menghentikan Aplikasi

Untuk menghentikan aplikasi, Anda harus menghentikan proses backend dan frontend.

Menghentikan Frontend

Di terminal tempat frontend berjalan, tekan Ctrl + C untuk menghentikan proses.

Menghentikan Backend

Demikian pula di terminal backend, gunakan pintasan Ctrl + C untuk menghentikan server.

Menonaktifkan Lingkungan Virtual

Untuk menonaktifkan lingkungan virtual, Anda cukup menutup terminal backend, atau menjalankan perintah berikut:

jendela:

.venv S cripts d eactivate.bat

Linux/MacOS:

deactivate

Jika Anda mengalami masalah apa pun, Anda dapat menghentikan proses secara paksa dengan mencari ID proses ( PID ) dan menggunakan perintah kill pada sistem berbasis Unix atau Task Manager di Windows.

Menggunakan Port Berbeda

Ubah port backend di file berikut:

• backend/config.py
• frontend/app/app.config.js

Untuk menjalankan frontend pada port yang berbeda:

npm run dev -- --port NEW_PORT

Pemecahan masalah

Wilayah AWS di-hardcode dalam aplikasi. Namun, jika variabel lingkungan AWS_REGION lokal Anda diatur ke wilayah berbeda, aplikasi mungkin gagal. Dalam hal ini, pastikan untuk membatalkan setelan AWS_REGION , atau menyetelnya ke us-east-1 .

Lisensi

Perpustakaan ini dilisensikan di bawah Lisensi MIT-0. Lihat file LISENSI.

Keamanan

Lihat KONTRIBUSI untuk informasi lebih lanjut.