aify

aify

Bangun aplikasi asli AI Anda dalam hitungan detik.

Beranda | Dokumentasi | Masukan

Kerangka kerja dan runtime aplikasi asli AI. Cukup tulis file YAML.

? UI chatbot AI yang siap digunakan.

Ketergantungan

• microsoft/guidance sebagai mesin prompt inti
• Uvicorn, Starlette, FastAPI sebagai servernya

Fitur

• Model: Model LLM/transformator yang didukung oleh panduan.
• Penyimpanan memori: File lokal / Google Cloud Datastore / Ditentukan pengguna
• Penyematan: OpenAI / Ditentukan pengguna
• Penyimpanan dan pencarian vektor: File CSV lokal, Pandas DataFrame dan Numpy di memori / Ditentukan pengguna
• Penerapan: Mesin Aplikasi Lokal / Google Cloud
• UI: Webui Chatbot
• API: API Tenang / Python

Memulai

Selamat datang di Aify, kerangka kerja dan runtime aplikasi asli AI yang memungkinkan Anda mengirimkan aplikasi AI dalam hitungan detik! Dengan Aify, Anda dapat dengan mudah membangun dan menerapkan aplikasi bertenaga AI menggunakan file YAML sederhana. Dalam panduan ini, kami akan memandu Anda melalui langkah-langkah untuk memulai Aify dan membuat aplikasi AI pertama Anda.

Instalasi

Untuk memulai, pastikan Anda telah menginstal prasyarat berikut di sistem Anda:

• Python 3.8 atau lebih tinggi
• Manajer paket pip

Setelah Anda memiliki prasyaratnya, Anda dapat menginstal Aify dengan menjalankan perintah berikut di terminal Anda:

pip install aify

Buat aplikasi pertama Anda

Anda perlu menyiapkan direktori untuk aplikasi Anda:

mkdir ./apps

Sekarang Anda dapat memulai layanan aify dan kemudian mengakses http://localhost:2000 menggunakan browser, dan aify akan menyambut Anda.

aify run ./apps

Sekarang hanya aplikasi kosong, tidak bisa digunakan untuk apa pun. Selanjutnya kita akan membuat chatbot.

Membuat file YAML aify menggunakan file YAML untuk mendefinisikan aplikasi AI Anda. File ini berisi semua konfigurasi dan pengaturan yang diperlukan untuk aplikasi Anda. Berikut ini contoh file YAML dasar:

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

Berikut beberapa penjelasan sederhana tentang file YAML ini:

• Judul mewakili nama aplikasi ini.
• Bagian model mendefinisikan model AI yang digunakan oleh aplikasi ini dan parameter runtime yang diperlukan oleh model tersebut.
• Bagian prompt digunakan untuk mendorong eksekusi aplikasi. Aify menggunakan paket perangkat lunak panduan yang disediakan oleh Microsoft untuk mendorong pelaksanaan program AI. Panduan memberikan cara untuk beroperasi sebagai Rantai Pemikiran. Karena panduan menggunakan sistem template Handlebars, format bagian ini sebenarnya adalah template Handlebars. Bagian prompt berisi beberapa fungsi pembantu yang memungkinkan model AI mengubah perilaku runtime secara dinamis, membantu kita mencapai fungsionalitas yang lebih kompleks. Fungsi-fungsi ini bawaan untuk aify, tetapi Anda juga dapat menulis fungsi pembantu Anda sendiri dengan Python untuk menyelesaikan tugas tertentu.
  • Istilah "sistem", "pengguna", dan "asisten" digunakan untuk menentukan peran dalam tugas obrolan berbasis LLM.
  • "memory.read" dan "memory.write" adalah fungsi pembantu bawaan di Aify, digunakan untuk menyimpan dan memuat riwayat percakapan pengguna dan AI.
  • "masing-masing" dan "jika" adalah pernyataan kontrol cabang yang disediakan oleh Setang.
  • "gen" adalah fungsi yang disediakan oleh "panduan" untuk menunjukkan pelaksanaan tugas pembuatan LLM.
• Bagian variabel mendefinisikan variabel masukan dan keluaran aplikasi, yang digunakan sistem eksternal untuk mengakses data yang dihasilkan oleh AI melalui API.

Mainkan dengan aplikasi AI Anda

Sekarang kembali ke browser Anda dan segarkan halaman. Anda akan melihat aplikasi yang baru saja Anda buat. Anda dapat melakukan beberapa percakapan dengannya, seperti ChatGPT.

aify bukan chatbot

Meskipun aify menyediakan antarmuka chatbot, tujuan utamanya bukan untuk memberikan pengganti ChatGPT atau aplikasi percakapan kompetitif.

UI chatbot hanya untuk memudahkan proses debug aplikasi AI. Tentunya Anda memang bisa menggunakannya sebagai chatbot untuk penggunaan sehari-hari.

Tujuan utama aify adalah menyediakan kerangka kerja yang efisien untuk mengembangkan dan menerapkan aplikasi AI.

Jika tujuan Anda adalah mengembangkan aplikasi AI kompleks Anda sendiri, Anda harus lebih memperhatikan API dan mekanisme ekstensi yang disediakan oleh aify.

Contoh lainnya: https://github.com/shellc/aify/tree/main/examples

Tangkapan layar webui