openai autogen dev studio

OADS - Openai Autogen Development Studio

Hasilkan game dan program menggunakan agen openai. Dibangun di atas Microsoft Autogen.

️ Bekerja dalam proses
Kode saat ini berfungsi tetapi:

• Ada, dan akan ada, memecahkan perubahan:
  • Selalu periksa bahwa file .env.jsonc Anda yang tersembunyi cocok dengan struktur env.sample.jsonc terakhir.
  • Selalu perbarui dependensi Anda melalui poetry install .
• Banyak hal yang perlu dioptimalkan untuk secara drastis mengurangi penggunaan token: caching, proses demi langkah proses, pemisahan percakapan, petunjuk yang lebih baik.
• Kode perlu dibersihkan.
• Microsoft Autogen masih dalam tahap awal dan berisi beberapa bug.
• Banyak hal yang dikodekan dapat disesuaikan melalui file konfigurasi.
• Saya hanya akan fokus pada beberapa bahasa pemrograman pada awalnya.

---

• Mengapa proyek ini?
• Memulai
  • Prasyarat
  • Anaconda
    • 1/3 Instalasi
    • 2/3 Konfigurasi
    • 3/3 berjalan
• Llms sumber terbuka
  • 1/2 Jalankan UI Web Pembuatan Teks
  • 2/2 Pengaturan Oads

---

Mengapa proyek ini?

Ada beberapa proyek luar biasa yang melakukan hal serupa tetapi saya berharap dapat menemukan cara untuk menyelesaikan generasi program yang ambisius.

Memulai

Prasyarat

Anda memerlukan kunci API OpenAI atau kunci API OpenAi Azure.

Jangan mengandalkan GPT-3.5 , baik turbo atau Standard, untuk lebih dari sekedar program "sampel". Jika Anda bertujuan untuk aplikasi yang lebih kompleks, GPT-4 adalah suatu keharusan, lebih disukai bahkan GPT-4-32k .

Menggunakan API OpenAI mungkin dengan cepat menghabiskan batas token Anda. Untuk proyek yang lebih luas, Azure Openai API direkomendasikan.

Berhati -hatilah jika Anda memiliki tujuan yang ambisius! Selalu memantau penggunaan token dan apa yang dilakukan agen Anda. Sementara AI bisa menjadi alat yang ampuh, itu belum tentu lebih murah daripada mempekerjakan pengembang sejati - belum?

Anaconda

1/3 Instalasi

conda create -n autogen python=3.10
conda activate autogen
pip install poetry
poetry install
cp env.sample.jsonc env.jsonc

2/3 Konfigurasi

Edit env.json Anda untuk menambahkan tombol API Anda dan sesuaikan instalasi Anda.

3/3 berjalan

Hanya:

make run

OAD akan secara otomatis menghasilkan kode sumber program di direktori ./project .

Anda dapat membersihkannya melalui:

make clean

Llms sumber terbuka

Penting: Fungsi tidak akan berhasil.

1/2 Jalankan UI Web Pembuatan Teks

Dari apa yang saya uji, Autogen tampaknya bekerja dengan LLM open source yang didukung oleh Web UI pembuatan teks.

Anda hanya perlu mengaktifkan ekstensi openai di tab "Sesi" dari UI Web:

Pastikan port 5001 Anda terbuka atau diikat jika itu adalah server jarak jauh karena di sinilah API seperti OpenAi akan diekspos.

Saya pribadi menggunakan model saya saat ini di runpod (tidak berafiliasi) dan menggunakan thebloke/cuda11.8.0-ubuntu22.04-oneclick:latest meskipun saya pikir sepertinya agak ketinggalan zaman mengenai llama.cpp & co.

2/2 Pengaturan Oads

  "models" : [
    // Custom deployment of (for example) `Open-Orca/Mistral-7B-OpenOrca`
    // using "Text generation web UI" with `OpenAI` extension enabled:
    // https://github.com/oobabooga/text-generation-webui/tree/main/extensions/openai#an-openedai-api-openai-like
    // This can be any inference endpoint compatible following OpenAI API specs,
    // regardless of the model you use behind it.
    {
      "model" : "Open-Orca/LlongOrca-13B-16k" ,
      "api_base" : "http://localhost:5001" , // Or your remote server URL
      "api_key" : "sk-111111111111111111111111111111111111111111111111" ,
      "api_type" : "open_ai"
    }
  ] ,