AI Runner adalah antarmuka yang memungkinkan Anda menjalankan model bahasa besar (LLM) sumber terbuka dan generator gambar AI (Difusi Stabil) pada perangkat keras Anda sendiri.
Ini dirancang agar mudah digunakan, dengan antarmuka sederhana dan intuitif yang memungkinkan Anda menjalankan model AI tanpa memerlukan server web atau layanan cloud.
Ini telah dioptimalkan untuk kecepatan dan efisiensi, memungkinkan Anda menghasilkan gambar dan melakukan percakapan dengan chatbots secara real-time.
AI Runner adalah antarmuka AI yang memungkinkan Anda menjalankan model bahasa besar (LLM) sumber terbuka dan generator gambar AI (Difusi Stabil) pada perangkat keras Anda sendiri.
Fitur | Keterangan |
---|---|
LLM dan komunikasi | |
Percakapan chatbot berbasis suara | Lakukan percakapan dengan chatbot menggunakan suara Anda |
Teks-ke-ucapan | Ubah teks menjadi audio lisan |
Ucapan-ke-teks | Ubah audio lisan menjadi teks |
Chatbot yang dapat disesuaikan dengan LLM | Hasilkan teks menggunakan model bahasa besar |
RAG pada dokumen dan situs web lokal | Berinteraksi dengan dokumen lokal Anda menggunakan LLM |
? Pembuatan Gambar | |
Difusi Stabil (semua versi) | Hasilkan gambar menggunakan Difusi Stabil |
Alat menggambar | Ubah sketsa menjadi seni |
Teks-ke-Gambar | Hasilkan gambar dari deskripsi tekstual |
Gambar-ke-Gambar | Hasilkan gambar berdasarkan gambar masukan |
?️ Manipulasi Gambar | |
Pengecatan dan Pengecatan Luar | Ubah bagian gambar dengan tetap mempertahankan konteks |
jaringan kendali | Kontrol pembuatan gambar dengan input tambahan |
LoRA | Menyempurnakan model secara efisien dengan LoRA |
Penyematan Tekstual | Gunakan penyematan tekstual untuk kontrol pembuatan gambar |
Filter Gambar | Buram, butiran film, seni piksel, dan banyak lagi |
? Kegunaan | |
Jalankan offline, secara lokal | Jalankan di perangkat keras Anda sendiri tanpa internet |
Generasi cepat | Hasilkan gambar dalam ~2 detik (RTX 2080s) |
Jalankan beberapa model sekaligus | Memanfaatkan beberapa model secara bersamaan |
Mode gelap | Pengalaman menonton yang nyaman di lingkungan dengan cahaya redup |
Kanvas bergulir tanpa batas | Gulir dengan mulus melalui gambar yang dihasilkan |
Pengalih filter NSFW | Membantu mengontrol visibilitas konten NSFW |
Pengalih pagar pembatas NSFW | Membantu mencegah pembuatan konten berbahaya LLM |
Dapat disesuaikan sepenuhnya | Sesuaikan semua parameter dengan mudah |
Waktu buka cepat, antarmuka responsif | Nikmati pengalaman pengguna yang lancar dan responsif |
Piton murni | Tidak bergantung pada server web, implementasi python murni |
Ada beberapa cara untuk memulai AI Runner seperti paket, dari sumber, dan sebagai perpustakaan.
Petunjuk pengemasan dan pemasangan terperinci dapat ditemukan di wiki.
Instalasi
pip install airunner
Berlari
airunner
AI Runner menginstal semua model yang diperlukan untuk menjalankan chatbot dengan kemampuan text-to-speech dan Speech-to-text, serta model inti yang diperlukan untuk Difusi Stabil. Namun, Anda harus menyediakan model generator seni Anda sendiri.
Anda dapat mendownload model dari Huggingface.co atau civitai.com.
Model Difusi Stabil yang didukung adalah:
Model harus ditempatkan di direktori masing-masing di direktori airunner
.
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
Jalankan semua pengujian unit
python -m unittest discover -s src/airunner/tests
Jalankan pengujian unit tunggal python -m unittest src/airunner/tests/<file_name>
Contoh
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
Meskipun AI Runner v3.0 dibuat dengan pustaka Huggingface, kami telah berhati-hati untuk menghapus penerapan fitur telemetri atau pelacakan apa pun.
Hanya wizard pengaturan yang memerlukan akses ke internet untuk mengunduh model yang diperlukan.
Untuk informasi lebih lanjut lihat perpustakaan Darklock dan Facehuggershield.
Akses tulis untuk perpustakaan transformator telah dinonaktifkan, mencegahnya membuat direktori cache pelukan saat runtime.
Aplikasi itu sendiri masih dapat mengakses disk untuk membaca dan menulis, namun kami telah membatasi membaca dan menulis pada direktori airunner
yang disediakan pengguna (secara default terletak di ~/.local/share/airunner
).
Semua upaya lain untuk mengakses disk diblokir dan dicatat untuk Anda tinjau.
Untuk informasi lebih lanjut lihat src/security/restrict_os_access.py
.
Huggingface Hub berisi fitur telemetri dan pelacakan yang telah sepenuhnya dinonaktifkan di AI Runner.
Langkah-langkah keamanan yang diambil untuk perpustakaan ini adalah sebagai berikut
Lihat Facehuggershield untuk informasi lebih lanjut.