lollms webui

LoLLMs (Penguasa Sistem Multimodal Bahasa Besar) UI Web

Statistik unduhan perpustakaan inti LoLLM

statistik unduhan lollms webui

Selamat datang di lollms webui (Penguasa Sistem Multimodal Bahasa Besar: Satu alat untuk mengatur semuanya), pusat LLM (Model Bahasa Besar) dan sistem kecerdasan multimodal. Proyek ini bertujuan untuk menyediakan antarmuka yang ramah pengguna untuk mengakses dan memanfaatkan berbagai LLM dan model AI lainnya untuk berbagai tugas. Apakah Anda memerlukan bantuan dalam menulis, membuat kode, mengatur data, menganalisis gambar, menghasilkan gambar, menghasilkan musik, atau mencari jawaban atas pertanyaan Anda, lollms webui siap membantu Anda.

Sebagai alat yang mencakup segalanya dengan akses ke lebih dari 500 pengkondisian ahli AI di berbagai domain dan lebih dari 2500 model yang disesuaikan di beberapa domain, kini Anda memiliki sumber daya langsung untuk masalah apa pun. Apakah mobil Anda perlu diperbaiki atau jika Anda memerlukan bantuan coding dengan Python, C++ atau JavaScript; merasa sedih tentang keputusan hidup yang dibuat secara salah namun tidak dapat melihat bagaimana caranya? Tanya Lolms. Membutuhkan panduan tentang apa yang akan terjadi di masa depan berdasarkan gejala yang muncul saat ini, AI bantuan medis kami dapat membantu Anda mendapatkan diagnosis potensial dan memandu Anda mencari perawatan medis yang tepat. Jika terjebak dengan masalah hukum seperti interpretasi kontrak, jangan ragu untuk menghubungi kepribadian Pengacara, untuk mendapatkan wawasan - semuanya tanpa meninggalkan kenyamanan rumah. Hal ini tidak hanya membantu siswa yang kesulitan melewati lektor yang panjang namun juga memberi mereka dukungan ekstra selama penilaian, sehingga mereka dapat memahami konsep dengan benar daripada hanya membaca baris-baris yang dapat membuat banyak orang bingung setelahnya. Ingin hiburan? Kemudian libatkan Bot Tawa dan biarkan diri Anda menikmati tawa histeris hingga air mata mengalir dari mata saat bermain Dungeons&Dragonsatau mengarang cerita gila bersama berkat Creative Story Generator. Perlu pekerjaan ilustrasi diselesaikan? Jangan khawatir, Artbot membantu kita di sana! Dan yang tak kalah pentingnya, LordOfMusic hadir untuk menghasilkan musik sesuai spesifikasi individu. Jadi pada dasarnya ucapkan selamat tinggal pada malam-malam membosankan sendirian karena segala sesuatu yang mungkin dapat dicapai dalam satu platform bernama Lollms...

Fitur

• Pilih ikatan, model, dan kepribadian pilihan Anda untuk tugas Anda
• Sempurnakan email, esai, debugging kode, organisasi pemikiran, dan banyak lagi
• Jelajahi berbagai fungsi, seperti pencarian, organisasi data, pembuatan gambar, dan pembuatan musik
• UI yang mudah digunakan dengan opsi mode terang dan gelap
• Integrasi dengan repositori GitHub untuk akses mudah
• Dukungan untuk kepribadian berbeda dengan pesan selamat datang yang telah ditentukan sebelumnya
• Nilai jempol ke atas/bawah untuk jawaban yang dihasilkan
• Salin, edit, dan hapus pesan
• Penyimpanan database lokal untuk diskusi Anda
• Cari, ekspor, dan hapus beberapa diskusi
• Dukungan untuk pembuatan gambar/video berdasarkan difusi yang stabil
• Dukungan untuk pembuatan musik berdasarkan musicgen
• Dukungan untuk jaringan peer to peer multi generasi melalui Lollms Nodes dan Petals.
• Dukungan untuk Docker, conda, dan pengaturan lingkungan virtual manual
• Dukungan untuk LM Studio sebagai backend
• Dukungan untuk Ollama sebagai backend
• Dukungan untuk vllm sebagai backend
• Dukungan untuk Perutean cepat ke berbagai model tergantung pada kompleksitas tugas

Sejarah Bintang

Terima kasih untuk semua pengguna yang telah menguji alat ini dan membantu menjadikannya lebih ramah pengguna.

Instalasi

Instalasi otomatis (UI)

Jika Anda menggunakan Windows, cukup kunjungi halaman rilis, unduh penginstal windows dan instal.

Instalasi otomatis (Konsol)

Unduh skrip instalasi dari folder skrip dan jalankan. Skrip instalasinya adalah:

• win_install.bat untuk Windows.
• linux_install.sh untuk Linux.
• mac_install.sh untuk Mac.

Instalasi manual:

Sejak v 9.4, tidak disarankan untuk melakukan instalasi manual karena banyak layanan memerlukan pembuatan lingkungan terpisah dan lollms perlu memiliki kontrol penuh terhadap lingkungan tersebut. Jadi, jika Anda menginstalnya menggunakan pengaturan conda Anda sendiri, Anda tidak akan dapat menginstal layanan apa pun dan mengurangi penggunaan lollms ke antarmuka obrolan (tidak ada xtts, tidak ada comfortui, tidak ada pembuatan cepat melalui vllm atau kelopak atau apa pun)

Perutean Cerdas: Mengoptimalkan Uang dan Kecepatan

Fitur Perutean Cerdas Lollms lebih dari sekadar memilih model yang tepat untuk akurasi. Ini memberdayakan Anda untuk mengoptimalkan proses pembuatan teks karena dua faktor utama: uang dan kecepatan .

Mengoptimalkan Uang:

Bayangkan Anda menggunakan beberapa layanan pembuatan teks dengan harga yang bervariasi. Beberapa model mungkin sangat bertenaga namun memiliki label harga yang mahal, sementara model lainnya menawarkan opsi yang lebih hemat anggaran dengan kemampuan yang sedikit lebih rendah. Perutean Cerdas memungkinkan Anda memanfaatkan perbedaan harga ini untuk keuntungan Anda:

• Pilihan Hemat Biaya: Dengan menentukan hierarki model berdasarkan biayanya, Perutean Cerdas dapat secara otomatis memilih model paling ekonomis untuk permintaan Anda. Hal ini memastikan Anda hanya membayar listrik yang Anda perlukan, meminimalkan pengeluaran yang tidak perlu.
• Penyesuaian Harga Dinamis: Saat kompleksitas Anda berubah, Perutean Cerdas dapat beralih antar model secara dinamis, memastikan Anda selalu menggunakan opsi yang paling hemat biaya untuk tugas yang ada.

Mengoptimalkan Kecepatan:

Kecepatan adalah faktor penting lainnya dalam pembuatan teks, terutama ketika menangani konten dalam jumlah besar atau tugas yang sensitif terhadap waktu. Perutean Cerdas memungkinkan Anda memprioritaskan kecepatan dengan:

• Memprioritaskan Model yang Lebih Kecil: Dengan menempatkan model yang lebih cepat dan lebih hemat sumber daya di tingkat yang lebih tinggi dalam hierarki, Perutean Cerdas dapat memprioritaskan kecepatan untuk perintah sederhana. Hal ini memastikan respons yang cepat dan pemrosesan yang efisien.
• Penyesuaian Kecepatan Dinamis: Untuk perintah yang lebih kompleks yang memerlukan kekuatan model yang lebih besar, Perutean Cerdas dapat dengan mudah beralih ke model tersebut sambil menjaga keseimbangan antara kecepatan dan akurasi.

Contoh Kasus Penggunaan:

• Pemasaran Konten: Gunakan Perutean Cerdas untuk memilih model yang paling hemat biaya untuk menghasilkan postingan blog atau konten media sosial dalam jumlah besar.
• Dukungan Pelanggan: Prioritaskan kecepatan dengan menggunakan model yang lebih kecil untuk respons cepat terhadap pertanyaan umum, sekaligus memanfaatkan model yang lebih canggih untuk pertanyaan kompleks.
• Penelitian dan Pengembangan: Optimalkan uang dan kecepatan dengan menggunakan hierarki model berjenjang, memastikan Anda dapat dengan cepat membuat draf awal sambil menggunakan model yang lebih canggih untuk analisis mendalam.

Kesimpulan:

Perutean Cerdas adalah alat serbaguna yang memberdayakan Anda untuk mengoptimalkan proses pembuatan teks baik dari segi biaya dan kecepatan. Dengan memanfaatkan hierarki model dan secara dinamis menyesuaikan pilihan Anda berdasarkan kompleksitas yang cepat, Anda dapat mencapai keseimbangan sempurna antara efisiensi, akurasi, dan efektivitas biaya.

Kode etik

Dengan menggunakan alat ini, pengguna setuju untuk mengikuti pedoman berikut:

• Alat ini tidak dimaksudkan untuk digunakan untuk membangun dan menyebarkan berita palsu/misinformasi.
• Anda bertanggung jawab atas apa yang Anda hasilkan dengan menggunakan alat ini. Pencipta tidak akan bertanggung jawab atas apa pun yang dibuat melalui lollms ini.
• Anda dapat menggunakan lollms di proyek Anda sendiri secara gratis jika Anda setuju untuk menghormati persyaratan lisensi Apache 2.0. Silakan merujuk ke https://www.apache.org/licenses/LICENSE-2.0 .
• Anda tidak diperbolehkan menggunakan lollm untuk merugikan orang lain secara langsung maupun tidak langsung. Alat ini dimaksudkan untuk tujuan damai dan harus digunakan untuk kebaikan, bukan untuk keburukan.
• Pengguna harus mematuhi undang-undang setempat saat mengakses konten yang disediakan oleh pihak ketiga seperti OpenAI API dll., termasuk pembatasan hak cipta jika berlaku.

️ Peringatan Keamanan

Perlu diketahui bahwa lollms webui tidak memiliki otentikasi pengguna bawaan dan terutama dirancang untuk penggunaan lokal. Mengekspos WebUI ke akses eksternal tanpa langkah-langkah keamanan yang tepat dapat menyebabkan potensi kerentanan.

Jika Anda memerlukan akses jarak jauh ke LoLLM, sangat disarankan untuk mengikuti panduan keamanan berikut:

1. Aktifkan Mode Tanpa Kepala : Mengaktifkan mode tanpa kepala hanya akan mengekspos API generasi sambil mematikan titik akhir lain yang berpotensi rentan. Ini membantu meminimalkan permukaan serangan.

2. Siapkan Terowongan Aman : Buat terowongan aman antara localhost yang menjalankan LoLLM dan PC jarak jauh yang memerlukan akses. Hal ini memastikan bahwa komunikasi antara kedua perangkat dienkripsi dan dilindungi.

3. Ubah Pengaturan Konfigurasi : Setelah menyiapkan terowongan aman, edit file /configs/local_config.yaml dan sesuaikan pengaturan berikut:

    host : 0.0.0.0  # Allow remote connections
   port : 9600  # Change the port number if desired (default is 9600)
   force_accept_remote_access : true  # Force accepting remote connections
   headless_server_mode : true  # Set to true for API-only access, or false if the WebUI is needed

Dengan mengikuti praktik keamanan ini, Anda dapat membantu melindungi instans LoLLM Anda dan penggunanya dari potensi risiko keamanan saat mengaktifkan akses jarak jauh.

Ingat, sangat penting untuk memprioritaskan keamanan dan mengambil tindakan pencegahan yang diperlukan untuk melindungi sistem dan informasi sensitif Anda. Jika Anda memiliki pertanyaan atau kekhawatiran lebih lanjut mengenai keamanan LoLLM, silakan lihat dokumentasi atau hubungi komunitas untuk mendapatkan bantuan.

Tetap aman dan nikmati penggunaan LoLLM secara bertanggung jawab!

Penafian

Model Bahasa Besar adalah alat luar biasa yang dapat digunakan untuk beragam tujuan. Lollms dibangun untuk memanfaatkan kekuatan ini guna membantu pengguna meningkatkan produktivitasnya. Namun perlu diingat bahwa model-model ini mempunyai keterbatasan dan tidak boleh menggantikan kecerdasan atau kreativitas manusia, melainkan menambahnya dengan memberikan saran berdasarkan pola yang ditemukan dalam data dalam jumlah besar. Terserah pada masing-masing individu bagaimana mereka memilih untuk menggunakannya secara bertanggung jawab!

Performa sistem bervariasi bergantung pada model yang digunakan, ukurannya, dan kumpulan data yang telah dilatih. Semakin besar set pelatihan model bahasa (semakin banyak contoh), secara umum - hasil yang lebih baik akan diperoleh ketika menggunakan sistem tersebut dibandingkan dengan sistem yang lebih kecil. Namun masih belum ada jaminan bahwa output yang dihasilkan dari prompt tertentu akan selalu sempurna dan mungkin mengandung kesalahan karena berbagai alasan. Jadi pastikan Anda tidak menggunakannya untuk hal-hal serius seperti memilih obat atau membuat keputusan keuangan tanpa berkonsultasi langsung dengan ahlinya!

lisensi

Repositori ini menggunakan kode di bawah ApacheLicense Versi 2.0, lihat file lisensi untuk detail tentang hak yang diberikan sehubungan dengan penggunaan & distribusi

Hak cipta:

ParisNeo 2023