KoboldAI Client
Looking for our latest KoboldAI product?
Nama KoboldAI diambil dari perangkat lunak KoboldAI, saat ini program terbaru kami yang paling populer adalah KoboldCpp.
Jika Anda membaca pesan ini, Anda berada di halaman perangkat lunak KoboldAI asli.
Lebih suka menggunakan KoboldCpp dengan model GGUF dan fitur API terbaru? Anda dapat mengunjungi https://koboldai.org/cpp
Butuh dukungan untuk model baru seperti model berbasis Llama menggunakan platform Huggingface / Exllama (safetensors/pytorch)? Lihat versi pengembangan KoboldAI, KoboldAI United di https://koboldai.org/united
Ini adalah front-end berbasis browser untuk penulisan berbantuan AI dengan beberapa model AI lokal & jarak jauh. Ia menawarkan serangkaian alat standar, termasuk Memori, Catatan Penulis, Info Dunia, Simpan & Muat, pengaturan AI yang dapat disesuaikan, opsi pemformatan, dan kemampuan untuk mengimpor petualangan AI Dungeon yang ada. Anda juga dapat mengaktifkan mode Petualangan dan memainkan game seperti AI Dungeon Unleashed.
Cerita dapat dimainkan seperti Novel, game petualangan teks, atau digunakan sebagai chatbot dengan peralihan yang mudah untuk mengubah berbagai gaya permainan. Hal ini menjadikan KoboldAI sebagai asisten menulis, game, dan platform untuk lebih banyak hal. Cara Anda bermain dan seberapa bagus AI bergantung pada model atau layanan yang Anda putuskan untuk digunakan. Tidak masalah jika Anda ingin menggunakan kekuatan Google Colab yang gratis dan cepat, kartu grafis kelas atas Anda sendiri, layanan online yang kunci API-nya Anda miliki (Seperti OpenAI atau Inferkit) atau jika Anda lebih suka menjalankannya lebih lambat di CPU, Anda akan dapat menemukan cara menggunakan KoboldAI yang sesuai untuk Anda.
Secara default, KoboldAI akan berjalan dalam mode umum yang dioptimalkan untuk menulis, tetapi dengan model yang tepat Anda dapat memainkan ini seperti AI Dungeon tanpa masalah apa pun. Anda dapat mengaktifkan ini di pengaturan dan memunculkan prompt Anda sendiri, coba buat prompt acak atau unduh salah satu prompt yang tersedia di /aids/ Prompts.
Gameplaynya akan sedikit berbeda dari gameplay di AI Dungeon karena kami mengadopsi Type of the Unleashed fork, memberi Anda kendali penuh atas semua karakter karena kami tidak secara otomatis menyesuaikan kalimat Anda di belakang layar. Ini berarti Anda dapat lebih andal mengontrol karakter yang bukan Anda.
Oleh karena itu yang perlu Anda ketik sedikit berbeda, di AI Dungeon Anda akan mengetik ambil pedang sedangkan di KoboldAI Anda akan mengetiknya seperti kalimat seperti Anda mengambil pedang dan ini paling baik dilakukan dengan kata Anda alih-alih SAYA.
Untuk berbicara cukup ketik: Anda mengatakan "Kita mungkin harus mengumpulkan beberapa persediaan terlebih dahulu"
Mengetikkan kutipan saja mungkin berhasil, tetapi AI bekerja paling baik saat Anda menentukan siapa melakukan apa dalam perintah Anda.
Jika Anda ingin melakukan ini dengan teman Anda, kami menyarankan untuk menggunakan karakter utama sebagai Anda dan menggunakan karakter lain dengan namanya jika Anda bermain dengan model yang dilatih untuk Petualangan. Model-model ini berasumsi ada Anda dalam cerita. Mode ini biasanya tidak bekerja dengan baik pada model Novel karena mereka tidak tahu cara menangani masukan yang paling baik digunakan dengan penulisan cerita biasa di mana Anda bergiliran dengan AI.
Jika Anda ingin menggunakan KoboldAI sebagai asisten menulis, hal ini paling baik dilakukan dalam mode reguler dengan model yang dioptimalkan untuk Novel. Model ini tidak berasumsi adanya karakter You dan fokus pada penulisan seperti Novel. Untuk penulisan, ini sering kali memberi Anda hasil yang lebih baik daripada model Petualangan atau Generik. Meskipun demikian, jika Anda memberikan pengantar cerita yang baik, model generik besar seperti 13B dapat digunakan jika model yang lebih spesifik tidak tersedia untuk apa yang ingin Anda tulis. Anda juga dapat mencoba menggunakan model yang tidak spesifik dengan apa yang ingin Anda lakukan, misalnya model Novel NSFW untuk cerita SFW jika model SFW tidak tersedia. Ini berarti Anda harus lebih sering mengoreksi model karena biasnya, namun tetap dapat memberikan hasil yang cukup baik jika model tersebut cukup memahami topik Anda.
Dalam mode chatbot Anda dapat menggunakan model yang sesuai sebagai chatbot, mode ini secara otomatis menambahkan nama Anda di awal kalimat dan mencegah AI berbicara seperti Anda. Untuk menggunakannya dengan benar, Anda harus menulis pembuka cerita Anda sebagai kedua karakter dalam format berikut (Anda dapat menggunakan teks Anda sendiri):
Bot : Hey!
You : Hey Boyname, how have you been?
Bot : Been good! How about you?
You : Been great to, excited to try out KoboldAI
Bot : KoboldAI is really fun!
You : For sure! What is your favorite game?
Disarankan agar masukan Anda sendiri menjadi masukan terakhir, terutama di awal, ada kemungkinan AI mencampuradukkan nama. Jika demikian, coba lagi atau perbaiki namanya secara manual. Perilaku ini meningkat seiring berlangsungnya obrolan. Beberapa model mungkin bertukar nama jika mereka lebih familiar dengan nama lain yang mirip dengan nama yang Anda tetapkan untuk bot. Dalam hal ini, Anda dapat melakukan koreksi manual sesekali atau memilih nama untuk chatbot Anda yang lebih disukai AI.
Mode ini berfungsi paling baik pada model Generik atau model chatbot yang dirancang khusus untuknya, beberapa model seperti model AvrilAI malah dirancang untuk digunakan dalam mode Petualangan dan tidak sesuai dengan format di atas. Model ini biasanya dikirimkan dengan mode petualangan yang diaktifkan secara default dan tidak boleh dialihkan ke mode chatbot.
Model Novel atau Petualangan tidak disarankan untuk fitur ini tetapi mungkin masih berfungsi tetapi dapat keluar dari format percakapan dengan cepat.
Jika Anda ingin bermain KoboldAI online secara gratis di komputer canggih, Anda dapat menggunakan Google Colaboraty. Kami menyediakan dua edisi, edisi TPU dan GPU dengan berbagai macam model yang tersedia. Ini sepenuhnya berjalan di Server Google dan secara otomatis akan mengunggah simpanan ke Google Drive Anda jika Anda memilih untuk menyimpan cerita (Atau, Anda dapat memilih untuk mengunduh simpanan Anda sehingga tidak pernah disimpan di Google Drive). Petunjuk mendetail tentang cara menggunakannya ada di bagian bawah Colab.
Setiap edisi memiliki model yang berbeda dan memerlukan perangkat keras yang berbeda untuk dijalankan, ini berarti jika Anda tidak dapat memperoleh TPU atau GPU, Anda mungkin masih dapat menggunakan versi lainnya. Model yang dapat Anda gunakan tercantum di bawah edisi. Untuk membuka Colab, klik tautan besar yang menampilkan nama edisi.
| Model | Gaya | Keterangan |
|---|---|---|
| Nerys oleh Tuan Seeker | Novel/Petualangan | Nerys adalah model hybrid berdasarkan Pike (Janeway yang lebih baru), selain kumpulan data Pike Anda juga mendapatkan beberapa Novel Ringan, dukungan mode Petualangan, dan sedikit Shinen yang disertakan dalam campuran. Hasil akhirnya adalah model yang sangat beragam yang sangat bias terhadap penulisan novel SFW, namun dapat melampaui pelatihan novelnya dan menjadikannya model petualangan yang sangat baik. Mode petualangan paling baik dimainkan dari sudut pandang orang kedua, tetapi juga dapat dimainkan sebagai orang pertama atau ketiga. Penulisan novel paling baik dilakukan dari sudut pandang orang pertama atau ketiga. |
| Erebus oleh Tuan Seeker | NSFW | Erebus adalah model NSFW andalan komunitas kami, yang merupakan kombinasi dari beberapa kumpulan data besar yang mencakup Literotica, Shinen, dan novel erotis dari Nerys dan menampilkan dukungan penandaan menyeluruh yang mencakup sebagian besar gaya penulisan erotis. Model ini mampu menggantikan model Lit dan Shinen dalam hal konten dan gaya dan telah diterima dengan baik sebagai (salah satu) model NSFW terbaik di luar sana. Jika Anda ingin menggunakan model ini untuk penggunaan komersial atau non-penelitian, kami sarankan memilih versi 20B karena versi tersebut tidak tunduk pada lisensi OPT yang membatasi. |
| Janeway oleh Tuan Seeker | Novel | Janeway adalah model yang dibuat dari kumpulan data Picard yang dikombinasikan dengan koleksi eBook baru. Model ini dilatih pada konten 20% lebih banyak daripada Picard dan telah dilatih pada literatur dari berbagai genre. Meskipun modelnya terutama berfokus pada SFW, adegan romantis mungkin melibatkan ketelanjangan pada tingkat tertentu. |
| Shinen oleh Tuan Seeker | NSFW | Shinen adalah model NSFW yang dilatih tentang berbagai cerita dari situs Sexstories yang berisi banyak hal berbeda. Ini telah digabungkan menjadi model Erebus yang lebih besar (dan lebih baik). |
| Gulungan oleh VE_FORBRYDERNE | Petualangan | Skein paling baik digunakan dengan mode Petualangan diaktifkan, ini terdiri dari kumpulan data petualangan 4 kali lebih besar daripada model Petualangan sehingga sangat baik untuk game petualangan teks. Selain itu juga terdiri dari pelatihan novel ringan yang semakin memperluas pengetahuan dan kemampuan menulisnya. Ini dapat digunakan dengan bias filter Anda jika Anda ingin menulis Novel dengannya, tetapi model Novel khusus dapat bekerja lebih baik untuk tugas ini. |
| Petualangan oleh VE_FORBRYDERNE | Petualangan | Adventure adalah model 6B yang dirancang untuk meniru perilaku AI Dungeon. Ini khusus untuk Mode Petualangan dan dapat membawa Anda ke petualangan epik dan aneh yang disukai pemain AI Dungeon. Ia juga menampilkan banyak kiasan AI Dungeon karena telah dilatih pada data yang sangat mirip. Itu harus digunakan sebagai orang kedua (Anda). |
| Menyala (V2) oleh Haru | NSFW | Lit adalah model NSFW hebat yang dilatih oleh Haru pada kumpulan besar cerita Literotica dan novel berkualitas tinggi serta dukungan penandaan. Membuat model berkualitas tinggi untuk cerita NSFW Anda. Model ini secara eksklusif merupakan model baru dan paling baik digunakan sebagai orang ketiga. |
| MEMILIH oleh Metaseq | Umum | OPT dianggap sebagai salah satu model dasar terbaik dalam hal konten, perilakunya memiliki kekuatan GPT-Neo dan Fairseq Dense. Dibandingkan dengan Neo, duplikat dan konten yang tidak perlu telah ditinggalkan, sementara literatur tambahan ditambahkan mirip dengan model Fairseq Dense. Namun model Fairseq Dense tidak memiliki data yang lebih luas seperti yang dimiliki OPT. Kelemahan terbesar OPT adalah lisensinya, yang melarang penggunaan komersial, atau penggunaan di luar tujuan penelitian. |
| Neo(X) oleh EleutherAI | Umum | NeoX adalah model EleutherAI terbesar yang tersedia saat ini, karena merupakan model generik, NeoX tidak dilatih secara khusus dalam hal apa pun dan dapat melakukan berbagai tugas penulisan, tanya jawab, dan pengkodean. Kinerja 20B sangat mirip dengan model 13B dan patut dicoba terutama jika Anda memiliki tugas yang tidak melibatkan penulisan bahasa Inggris. Perilakunya akan mirip dengan model GPT-J-6B karena mereka dilatih pada kumpulan data yang sama tetapi lebih sensitif terhadap penalti pengulangan dan dengan lebih banyak pengetahuan. |
| Fairseq Padat | Umum | Dilatih oleh Peneliti Facebook, model ini berasal dari proyek penelitian MOE di Fairseq. Versi khusus ini telah kami konversi untuk digunakan di KoboldAI. Model ini diketahui setara dengan model 20B yang lebih besar dari EleutherAI dan dianggap lebih baik untuk tugas budaya pop dan bahasa. Karena model belum pernah melihat baris baru (enter), performa model dan pembuatan paragraf mungkin lebih buruk. Dibandingkan dengan model lain, kumpulan data ini berfokus terutama pada literatur dan hanya berisi sedikit hal lain. |
| GPT-J-6B oleh EleutherAI | Umum | Model ini berfungsi sebagai dasar untuk sebagian besar model 6B lainnya (Beberapa malah didasarkan pada Fairseq Dense). Dilatih tentang Pile dan tidak bias terhadap hal tertentu, ini cocok untuk berbagai tugas seperti tugas menulis, tanya jawab, dan pengkodean. Anda mungkin akan mendapatkan hasil yang lebih baik dengan model generik yang lebih besar atau model yang disempurnakan. |
| Model | Gaya | Keterangan |
|---|---|---|
| Nerys oleh Tuan Seeker | Novel/Petualangan | Nerys adalah model hybrid berdasarkan Pike (Janeway yang lebih baru), selain kumpulan data Pike Anda juga mendapatkan beberapa Novel Ringan, dukungan mode Petualangan, dan sedikit Shinen yang disertakan dalam campuran. Hasil akhirnya adalah model yang sangat beragam yang sangat bias terhadap penulisan novel SFW, namun dapat melampaui pelatihan novelnya dan menjadikannya model petualangan yang sangat baik. Mode petualangan paling baik dimainkan dari sudut pandang orang kedua, tetapi juga dapat dimainkan sebagai orang pertama atau ketiga. Penulisan novel paling baik dilakukan dari sudut pandang orang pertama atau ketiga. |
| Tiefighter 13B oleh KoboldAI | Hibrida | Tiefighter 13B adalah Hibrida fiksi yang sangat serbaguna, ia dapat menulis, mengobrol, dan memainkan game petualangan dan juga dapat menjawab instruksi biasa (Meskipun kami tidak merekomendasikan model ini untuk penggunaan faktual karena sifat fiksinya). Ini adalah model awal yang sangat baik, untuk hasil terbaik hindari penggunaan tulisan orang kedua dalam obrolan Anda kecuali Anda menginginkannya menjadi petualangan teks. |
| Janeway oleh Tuan Seeker | Novel | Janeway adalah model yang dibuat dari kumpulan data Picard yang dikombinasikan dengan koleksi eBook baru. Model ini dilatih pada konten 20% lebih banyak daripada Picard dan telah dilatih pada literatur dari berbagai genre. Meskipun modelnya terutama berfokus pada SFW, adegan romantis mungkin melibatkan ketelanjangan pada tingkat tertentu. |
| Picard oleh Tuan Seeker | Novel | Picard adalah model yang dilatih untuk Novel SFW berdasarkan Neo 2.7B. Ini difokuskan pada penulisan gaya Novel tanpa bias NSFW. Meskipun namanya menunjukkan model fiksi ilmiah, model ini dirancang untuk Novel dari berbagai genre. Ini dimaksudkan untuk digunakan dalam mode reguler KoboldAI. |
| BANTUAN oleh melastacho | Petualangan | Juga dikenal sebagai Adventure 2.7B, ini adalah tiruan dari model AI Dungeon Classic dan terkenal karena petualangan epik aneh yang disukai pemain AI Dungeon Classic. |
| MEMILIH oleh Metaseq | Umum | OPT dianggap sebagai salah satu model dasar terbaik dalam hal konten, perilakunya memiliki kekuatan GPT-Neo dan Fairseq Dense. Dibandingkan dengan Neo, duplikat dan konten yang tidak perlu telah ditinggalkan, sementara literatur tambahan ditambahkan mirip dengan model Fairseq Dense. Namun model Fairseq Dense tidak memiliki data yang lebih luas seperti yang dimiliki OPT. Kelemahan terbesar OPT adalah lisensinya, yang melarang penggunaan komersial, atau penggunaan di luar tujuan penelitian. |
| Fairseq Padat | Umum | Dilatih oleh Peneliti Facebook, model ini berasal dari proyek penelitian MOE di Fairseq. Versi khusus ini telah kami konversi untuk digunakan di KoboldAI. Model ini diketahui setara dengan model yang lebih besar dari EleutherAI dan dianggap lebih baik untuk tugas budaya pop dan bahasa. Karena model belum pernah melihat baris baru (enter), performa model dan pembuatan paragraf mungkin lebih buruk. Dibandingkan dengan model lain, kumpulan data ini berfokus terutama pada literatur dan hanya berisi sedikit hal lain. |
| MythoMax 13B oleh Gryphe | Permainan peran | Varian MythoMix yang ditingkatkan dan bahkan berpotensi disempurnakan, penggabungan MythoLogic-L2 dan Huginn saya menggunakan teknik penggabungan tipe tensor yang sangat eksperimental¹. |
| Holomax 13B oleh KoboldAI | Petualangan | Ini merupakan penggabungan ekspansi ke model MythoMax yang dipuji dari Gryphe (60%) menggunakan model KoboldAI Holodeck dari MrSeeker (40%). Tujuan dari model ini adalah untuk meningkatkan kemampuan menulis cerita sambil mempertahankan ciri-ciri yang diinginkan dari model MythoMax sebanyak mungkin (Ini membatasi panjang balasan obrolan). |
| Airoboros 13B oleh Jon Durbin | Umum | Ini adalah instruksi model llama-2 yang disempurnakan, menggunakan instruksi sintetis yang dihasilkan oleh airoboros⁵. |
| Emerhyst 13B oleh Undi | Permainan peran | Upaya menggunakan BlockMerge_Gradient untuk mendapatkan hasil yang lebih baik. Selain itu, LimaRP v3 digunakan⁷. |
| Chronos 13B oleh Elinas | Umum | Model ini terutama berfokus pada obrolan, permainan peran, dan penulisan cerita, namun dapat menyelesaikan tugas-tugas lain seperti penalaran sederhana dan pengkodean. Chronos menghasilkan keluaran yang sangat panjang dengan teks yang koheren, sebagian besar disebabkan oleh masukan manusia yang menjadi dasar pelatihannya. |
| Naga Musim Semi oleh Henk717 | Petualangan | Model ini merupakan upaya rekreasi model AI Dungeon 2 Dragon. Untuk mencapai hal ini, kumpulan data "text_adventures.txt" digunakan, yang dibundel dengan rilis asli AI Dungeon 2 GitHub sebelum layanan online. Perlu dicatat bahwa file kumpulan data yang sama digunakan untuk membuat model Dragon, dengan Dragon adalah model Davinci GPT-3 175B dari tahun 2020. |
| Holodeck Oleh KoboldAI | Petualangan | LLAMA2 13B-Holodeck merupakan finetune yang dibuat menggunakan model llama 2 Meta. Data pelatihan berisi sekitar 3000 eBook dalam berbagai genre. Sebagian besar bagian dataset telah diawali dengan menggunakan teks berikut: [Genre: , |
| Neo oleh EleutherAI | Umum | Ini adalah model dasar untuk semua model 2.7B lainnya, paling baik digunakan bila Anda memiliki kasus penggunaan yang tidak tersedia untuk model lain, seperti menulis artikel blog atau pemrograman. Ini juga bisa menjadi dasar yang baik untuk pengalaman beberapa softprompt jika softprompt Anda bukan tentang subjek yang dicakup oleh model lain. |
| Berbagai model 2.7b dengan berbagai macam | Berbagai model yang lebih kecil juga dapat dimuat di colab GPU. |
| Jenis | Keterangan |
|---|---|
| Novel | Untuk penulisan cerita biasa, tidak kompatibel dengan mode Petualangan atau mode khusus lainnya. |
| NSFW | Menunjukkan bahwa model ini sangat bias terhadap konten NSFW dan tidak cocok untuk anak-anak, lingkungan kerja, atau streaming langsung. Kebanyakan model NSFW juga merupakan model Novel. |
| Petualangan | Model ini sangat bagus untuk orang yang ingin memainkan KoboldAI seperti game Petualangan Teks dan dimaksudkan untuk digunakan dengan mode Petualangan diaktifkan. Bahkan jika Anda ingin menggunakannya sebagai model Tipe Novel, Anda harus selalu mengaktifkan mode Petualangan dan mengaturnya ke cerita. Model ini biasanya memiliki bias yang kuat terhadap penggunaan kata Anda dan tanpa mengaktifkan mode Petualangan, hentikan alur cerita dan tulis tindakan atas nama Anda. |
| Hibrida | Model hybrid merupakan perpaduan antara Tipe yang berbeda, misalnya mereka dilatih pada cerita Novel dan cerita Petualangan. Model-model ini adalah model variasi hebat yang dapat Anda gunakan untuk beberapa jenis permainan dan mode berbeda, namun tergantung pada penggunaan Anda, Anda mungkin perlu mengaktifkan Mode Petualangan atau bias Anda (dalam skrip pengguna). |
| Umum | Model generik tidak dilatih untuk sesuatu yang spesifik, biasanya digunakan sebagai dasar untuk tugas dan model lain. Mereka dapat melakukan semua yang dapat dilakukan model lain, namun memerlukan lebih banyak pegangan agar dapat berfungsi dengan baik. Model generik adalah dasar ideal untuk tugas-tugas yang model spesifiknya tidak kita miliki, atau untuk mengalami softprompt dalam bentuk mentahnya. |
KoboldAI memiliki banyak dependensi yang perlu Anda instal di komputer Anda, sayangnya Python tidak memudahkan kami memberikan instruksi yang dapat digunakan untuk semua orang. Petunjuk di bawah ini dapat digunakan pada sebagian besar komputer, tetapi jika Anda menginstal beberapa versi Python, konflik dapat terjadi.
KoboldAI adalah rilis bergulir di github kami, kode yang Anda lihat juga merupakan permainannya. Anda dapat mengunduh perangkat lunak dengan mengeklik tombol Kode berwarna hijau di bagian atas halaman dan mengeklik Unduh ZIP, atau gunakan perintah git clone . Kemudian, di Windows Anda perlu menjalankan install_requirements.bat (disarankan menggunakan mode admin untuk menghindari kesalahan), dan setelah selesai, atau jika Anda menggunakan Linux, play.bat/sh atau remote-play.bat/sh untuk menjalankannya.
Cara termudah bagi pengguna Windows adalah dengan menggunakan penginstal offline di bawah ini.
KoboldAI sekarang akan secara otomatis mengkonfigurasi dependensinya dan memulai, semuanya terkandung dalam conda runtime-nya sendiri sehingga kami tidak akan mengacaukan sistem Anda. File-file tersebut akan ditempatkan di subfolder runtime. Jika suatu saat Anda ingin memaksa instalasi ulang runtime, Anda dapat melakukannya dengan file install_requirements.sh. Meskipun Anda dapat menjalankannya secara manual, hal ini tidak diperlukan.
Kami tidak dapat memberikan panduan langkah demi langkah untuk instalasi manual karena perbedaan besar antara konfigurasi perangkat lunak yang ada dan sistem pengguna kami.
Jika Anda ingin menginstal KoboldAI secara manual, Anda memerlukan pengetahuan manajemen paket python/conda untuk melakukan salah satu langkah berikut secara manual:
GPU AMD memiliki dukungan komputasi yang buruk, saat ini ini tidak akan berfungsi pada Windows dan hanya akan berfungsi untuk beberapa GPU Linux tertentu. Anda dapat menemukan daftar GPU yang kompatibel di sini. GPU apa pun yang tidak tercantum dijamin tidak berfungsi dengan KoboldAI dan kami tidak akan dapat memberikan dukungan yang tepat pada GPU yang tidak kompatibel dengan versi ROCm yang kami perlukan. Pastikan untuk menginstal ROCm terlebih dahulu di sistem Linux Anda menggunakan panduan distribusi Anda, setelah itu Anda dapat mengikuti petunjuk linux yang biasa di atas.
Ada beberapa hal yang bisa salah dengan cara Python menangani dependensinya, sayangnya kami tidak memiliki solusi langkah demi langkah langsung untuk setiap skenario, namun ada beberapa solusi umum yang dapat Anda coba.
Ini SELALU merupakan kegagalan pengunduhan/instalasi atau konflik dengan versi Python lainnya. Hal ini sangat umum terjadi jika pengguna memilih opsi subfolder selama instalasi sambil meletakkan KoboldAI di lokasi yang memiliki spasi di jalurnya. Ketika antivirus mem-sandbox instalasi atau mengganggu pengunduhan, sistem dengan ruang disk rendah atau ketika sistem operasi Anda tidak dikonfigurasi untuk Jalur FIle Panjang (Penginstal akan melakukan ini pada Windows 10 dan lebih tinggi jika Anda menjalankannya sebagai administrator, apa pun lainnya daripada Windows 10 tidak didukung oleh penginstal kami).
Alasan lain mengapa penginstalan gagal adalah jika Anda memiliki penginstalan Python yang bertentangan di mesin Anda, jika Anda menekan Tombol Windows + R dan memasukkan %appdata% di Dialog Jalankan, folder dependensi penginstalan Python pada beberapa sistem akan terbuka. Jika Anda memiliki folder Python di lokasi ini, ganti nama folder ini dan coba jalankan kembali penginstal. Seharusnya sekarang tidak lagi terjebak pada ketergantungan yang ada. Cobalah permainannya dan lihat apakah itu berfungsi dengan baik. Jika ya, Anda dapat mencoba mengganti nama folder kembali untuk melihat apakah folder tersebut tetap berfungsi.
Alasan ketiga mengapa penginstalan gagal adalah jika Anda memiliki conda/mamba di sistem Anda karena alasan lain, dalam hal ini kami menyarankan untuk menghapus instalasi python/conda yang ada jika Anda tidak memerlukannya dan menguji kembali penginstal kami. Atau menggunakan conda sendiri dengan file lingkungan yang dibundel agar dapat membuat runtime secara manual. Ingatlah bahwa jika Anda menggunakan rute manual, Anda TIDAK PERNAH menggunakan play.bat tetapi sebaiknya menjalankan aiserver.py secara langsung .
Secara umum, semakin sedikit versi Python yang Anda miliki di sistem Anda, semakin tinggi peluang Anda untuk menginstal dengan benar. Kami secara konsisten mencoba untuk memitigasi konflik instalasi ini di installer kami, namun bagi beberapa pengguna kami belum dapat menghindari semua konflik.
Kesalahan GPU tidak ditemukan dapat disebabkan oleh salah satu dari dua hal, yaitu Anda tidak memiliki GPU Nvidia yang sesuai (Diperlukan Kemampuan Komputasi 5.0 atau lebih tinggi untuk dapat memainkan KoboldAI). GPU Nvidia Anda didukung oleh KoboldAI tetapi tidak didukung oleh CUDA versi terbaru. GPU Nvidia Anda belum didukung oleh CUDA versi terbaru atau Anda mengalami konflik ketergantungan seperti yang disebutkan di atas.
Seperti konflik versi Python, kami menyarankan untuk menghapus CUDA dari sistem Anda jika Anda telah menginstalnya secara manual dan tidak memerlukannya untuk hal lain dan mencoba lagi. Jika GPU Anda memerlukan CUDA10 agar berfungsi lingkungan terbukafinetuneanon.yml dan tambahkan baris yang bertuliskan - cudatoolkit=10.2 di bawah dependensi: . Setelah ini, Anda dapat menjalankan penginstal lagi (Pilih opsi untuk menghapus file yang ada) dan penginstal akan mengunduh versi yang kompatibel dengan CUDA10.
Jika Anda tidak memiliki GPU Nvidia yang sesuai dan dapat berjalan pada CUDA10 atau Lebih Tinggi dan mendukung Kemampuan Komputasi 5.0 atau lebih tinggi, kami tidak dapat membantu Anda mendeteksi game di GPU. Kecuali Anda mengikuti panduan ROCm kami dengan GPU AMD yang kompatibel.
Jika Anda mendapatkan kesalahan ini, Anda mungkin tidak memilih folder yang benar untuk model khusus Anda atau model yang Anda unduh tidak (belum) kompatibel dengan KoboldAI. Ada beberapa model di luar sana yang kompatibel dan menyediakan file pytorch_model.bin tetapi tidak mengirimkan semua file yang diperlukan. Dalam hal ini coba unduh model yang kompatibel dari jenis yang sama (Misalnya GPT-Neo lain jika Anda mengunduh model GPT-Neo) dan ganti file pytorch_model.bin dengan yang Anda coba jalankan. Kemungkinannya adalah ini akan berfungsi dengan baik.
Softprompts (juga dikenal sebagai Modul di produk lain) adalah tambahan yang dapat mengubah keluaran model yang ada. Misalnya, Anda dapat memuat softprompt yang mengarahkan AI ke subjek dan gaya tertentu seperti transkrip dari acara TV favorit Anda.
Karena softprompt ini sering kali didasarkan pada waralaba yang sudah ada, saat ini kami tidak menggabungkannya dengan KoboldAI karena masalah hak cipta (Kami tidak ingin membahayakan keseluruhan proyek). Alih-alih, lihat sumber daya komunitas seperti #softprompts di KoboldAI Discord atau mirror yang dihosting komunitas.
Dengan begitu, kami lebih terlindungi dari klaim DMCA apa pun karena segala sesuatunya bisa dihapus dengan lebih mudah dibandingkan langsung di Github. Jika Anda memiliki softprompt bebas hak cipta yang Anda buat dari awal dan tidak didasarkan pada IP yang ada yang ingin Anda lihat dibundel secara resmi dengan KoboldAI, berikan permintaan penarikan dengan softprompt Anda.
Pelatihan softprompt dapat dilakukan secara gratis dengan Easy Softprompt Tuner, dalam hal ini Anda dapat membiarkan sebagian besar pengaturan default. Data sumber Anda harus berupa folder dengan file teks yang berformat UTF-8 dan berisi akhiran baris Unix.
Skrip pengguna adalah skrip yang dapat mengotomatiskan tugas di KoboldAI, atau mengubah perilaku/input/output AI.
Pembuatan skrip dilakukan di LUA5.4 (Lua tidak perlu diinstal secara terpisah selama Anda mendapatkan semua persyaratan python) dan memiliki kotak pasir untuk membantu melindungi Anda dari perilaku jahat. Bahkan dengan langkah-langkah ini, kami sangat menyarankan Anda hanya menjalankan skrip pengguna dari tempat yang Anda percayai dan/atau pahami, jika tidak, konsultasikan dengan komunitas untuk mendapatkan saran tentang seberapa aman skrip tersebut.
Di dalam folder userscripts Anda akan menemukan skrip kaipreset kami, ini adalah skrip default yang menurut kami akan berguna bagi pengguna kami. Script ini otomatis ditimpa ketika Anda mengupdate KoboldAI, jika Anda ingin memodifikasi script ini pastikan untuk mengganti namanya terlebih dahulu menjadi sesuatu yang lain yang tidak mengandung kaipreset agar perubahan Anda tidak hilang. Skrip ini berkisar dari filter You Bias yang mencegah AI menangani karakter sebagai Anda. Cara untuk mencegah AI menggunakan kata, penggantian kata, dan lainnya.
Bersamaan dengan skrip preset kami, kami juga mengirimkan contoh di folder contoh yang hanya berfungsi sebagai demonstrasi dan tidak meningkatkan penggunaan KoboldAI Anda. Untuk menggunakan skrip ini pastikan untuk memindahkannya keluar dari folder contoh sebelum menggunakan atau memodifikasi skrip.
Terakhir, semua fitur API skrip pengguna kami didokumentasikan di dalam file Dokumentasi API di dalam folder skrip pengguna.
Untuk versi TPU kami, perlu diingat bahwa skrip yang mengubah perilaku AI bergantung pada cara pemrosesan berbeda yang lebih lambat dibandingkan jika Anda membiarkan skrip pengguna ini dinonaktifkan meskipun skrip Anda hanya menggunakan pengubah ini secara sporadis. Jika Anda ingin menggunakan sebagian skrip dengan kecepatan penuh, Anda dapat mengaktifkan "Tanpa Pengubah Gen" untuk memastikan bahwa bagian yang membuat TPU lambat tidak aktif.
KoboldAI memiliki REST API yang dapat diakses dengan menambahkan /api ke URL yang diberikan Kobold kepada Anda (Misalnya http://127.0.0.1:5000/api).
Saat mengakses tautan ini di browser Anda akan dibawa ke dokumentasi interaktif.
Proyek ini berisi karya dari kontributor berikut:
Serta berbagai pembuat model yang akan terdaftar di dekat model mereka, dan semua penguji yang membantu memungkinkan ini!
Apakah kami melewatkan kontribusi Anda? Jangan ragu untuk mengeluarkan komitmen menambahkan nama Anda ke daftar ini.
Koboldai dilisensikan dengan lisensi AGPL, singkatnya ini berarti dapat digunakan oleh siapa saja untuk tujuan apa pun. Namun, jika Anda memutuskan untuk membuat contoh yang tersedia untuk umum, pengguna Anda berhak atas salinan kode sumber termasuk semua modifikasi yang telah Anda buat (yang perlu tersedia melalui antarmuka seperti tombol di situs web Anda), Anda juga dapat tidak mendistribusikan proyek ini dalam formulir yang tidak berisi kode sumber (seperti menyusun / mengenkripsi kode dan mendistribusikan versi ini tanpa juga mendistribusikan kode sumber yang mencakup perubahan yang Anda buat. Anda diizinkan untuk mendistribusikan ini dalam bentuk tertutup Jika Anda juga memberikan arsip terpisah dengan sumbernya kode.).
Umamba.exe dibundel karena kenyamanan karena kami mengamati bahwa banyak pengguna kami mengalami masalah dengan metode pengunduhan baris perintah, itu bukan bagian dari proyek kami dan tidak termasuk dalam lisensi AGPL. Ini dilisensikan di bawah lisensi BSD-3-Clause. File lain dengan lisensi yang berbeda akan memiliki referensi atau versi tertanam dari lisensi ini dalam file. Ini telah bersumber dari https://anaconda.org/conda-forge/micromamba/files dan kode sumbernya dapat ditemukan di sini: https://github.com/mamba-org/mamba/tree/master/micromamba
