anything llm

AnythingLLM: Aplikasi AI lengkap yang Anda cari.
Ngobrol dengan dokumen Anda, gunakan Agen AI, dapat dikonfigurasi secara hiper, multi-pengguna, & tidak perlu pengaturan yang membuat frustrasi.

| | Dokumen | Mesin Virtual yang Dihosting

Bahasa Inggris · 简体中文 · 日本語

Apa punLLM untuk desktop (Mac, Windows, & Linux)! Unduh Sekarang

Aplikasi tumpukan penuh yang memungkinkan Anda mengubah dokumen, sumber daya, atau konten apa pun menjadi konteks yang dapat digunakan oleh LLM mana pun sebagai referensi selama mengobrol. Aplikasi ini memungkinkan Anda memilih LLM atau Database Vektor mana yang ingin Anda gunakan serta mendukung manajemen dan izin multi-pengguna.

Tonton demonya!

Ikhtisar Produk

AnythingLLM adalah aplikasi full-stack di mana Anda dapat menggunakan LLM komersial siap pakai atau LLM sumber terbuka populer dan solusi vectorDB untuk membangun ChatGPT pribadi tanpa kompromi yang dapat Anda jalankan secara lokal serta dihosting dari jarak jauh dan dapat mengobrol dengan cerdas dengan dokumen apa pun yang Anda berikan.

AnythingLLM membagi dokumen Anda menjadi objek yang disebut workspaces . Ruang Kerja berfungsi sangat mirip dengan thread, namun dengan tambahan containerisasi dokumen Anda. Ruang kerja dapat berbagi dokumen, namun tidak berkomunikasi satu sama lain sehingga Anda dapat menjaga konteks setiap ruang kerja tetap bersih.

Fitur keren dari AnythingLLM

• ? Agen AI Khusus
• ?️ Dukungan multimodal (baik LLM tertutup maupun sumber terbuka!)
• ? Dukungan instans multi-pengguna dan mengizinkan versi Docker saja
• ? Agen di dalam ruang kerja Anda (menjelajahi web, menjalankan kode, dll)
• Widget Obrolan Khusus yang Dapat Disematkan hanya untuk versi Docker situs web Anda
• Dukungan berbagai jenis dokumen (PDF, TXT, DOCX, dll)
• UI obrolan sederhana dengan fungsi Drag-n-Drop dan kutipan yang jelas.
• Penerapan Cloud 100% siap.
• Bekerja dengan semua penyedia LLM sumber terbuka dan tertutup yang populer.
• Langkah-langkah penghematan biaya & waktu bawaan untuk mengelola dokumen yang sangat besar dibandingkan dengan UI obrolan lainnya.
• API Pengembang Lengkap untuk integrasi khusus!
• Masih banyak lagi...instal dan cari tahu!

LLM, Model Penyematan, Model Ucapan, dan Basis Data Vektor yang didukung

Model Bahasa Besar (LLM):

• Model sumber terbuka apa pun yang kompatibel dengan llama.cpp
• OpenAI
• OpenAI (Generik)
• Azure OpenAI
• Batuan Dasar AWS
• Antropis
• Google Gemini Pro
• Memeluk Wajah (model obrolan)
• Ollama (model obrolan)
• LM Studio (semua model)
• LocalAi (semua model)
• Bersama AI (model obrolan)
• Fireworks AI (model obrolan)
• Kebingungan (model obrolan)
• OpenRouter (model obrolan)
• DeepSeek (model obrolan)
• Mistral
• Bagus
• Berpadu
• KoboldCPP
• LiteLLM
• UI Web Pembuatan Teks
• Apipie
• xAI
• Novita AI (model obrolan)

Model penyemat:

• Penyematan Asli AnythingLLM (default)
• OpenAI
• Azure OpenAI
• LokalAi (semua)
• Ollama (semua)
• LM Studio (semua)
• Berpadu

Model Transkripsi Audio:

• Apa punLLM Bawaan (default)
• OpenAI

Dukungan TTS (teks-ke-ucapan):

• Browser Asli Bawaan (default)
• PiperTTSLocal - berjalan di browser
• OpenAI TTS
• SebelasLabs
• Layanan TTS apa pun yang Kompatibel dengan OpenAI.

Dukungan STT (ucapan-ke-teks):

• Browser Asli Bawaan (default)

Basis Data Vektor:

• LanceDB (bawaan)
• Astra DB
• biji pinus
• Kroma
• lemah
• Qdrant
• Milvus
• Ziliz

Ikhtisar Teknis

Monorepo ini terdiri dari tiga bagian utama:

• frontend : Frontend viteJS + React yang dapat Anda jalankan untuk dengan mudah membuat dan mengelola semua konten Anda yang dapat digunakan LLM.
• server : Server ekspres NodeJS untuk menangani semua interaksi dan melakukan semua manajemen vectorDB dan interaksi LLM.
• collector : Server ekspres NodeJS yang memproses dan mem-parsing dokumen dari UI.
• docker : Instruksi Docker dan proses pembuatan + informasi untuk membangun dari sumber.
• embed : Submodul untuk pembuatan & pembuatan widget penyematan web.
• browser-extension : Submodul untuk ekstensi browser chrome.

? Hosting Mandiri

Mintplex Labs & komunitas memelihara sejumlah metode penerapan, skrip, dan templat yang dapat Anda gunakan untuk menjalankan AnythingLLM secara lokal. Lihat tabel di bawah untuk membaca cara menerapkan pada lingkungan pilihan Anda atau menerapkan secara otomatis.

Buruh pelabuhan	AWS	GCP	Samudera Digital	Render.com

Kereta Api	RepoCloud	Elestio

atau atur instance produksi AnythingLLM tanpa Docker →

Cara menyiapkan pengembangan

• yarn setup Untuk mengisi file .env yang diperlukan, Anda memerlukan setiap bagian aplikasi (dari root repo).
  • Isilah itu sebelum melanjutkan. Pastikan server/.env.development terisi atau semuanya tidak akan berjalan dengan baik.
• yarn dev:server Untuk mem-boot server secara lokal (dari root repo).
• yarn dev:frontend Untuk mem-boot frontend secara lokal (dari root repo).
• yarn dev:collector Untuk kemudian menjalankan kolektor dokumen (dari root repo).

Pelajari tentang dokumen

Pelajari tentang caching vektor

Telemetri & Privasi

AnythingLLM oleh Mintplex Labs Inc berisi fitur telemetri yang mengumpulkan informasi penggunaan anonim.

Lebih lanjut tentang Telemetri & Privasi untuk AnythingLLM

Mengapa?

Kami menggunakan informasi ini untuk membantu kami memahami bagaimana AnythingLLM digunakan, untuk membantu kami memprioritaskan pekerjaan pada fitur baru dan perbaikan bug, dan untuk membantu kami meningkatkan kinerja dan stabilitas AnythingLLM.

Memilih untuk tidak ikut serta

Setel DISABLE_TELEMETRY di server atau pengaturan docker .env Anda ke "true" untuk menyisih dari telemetri. Anda juga dapat melakukan ini dalam aplikasi dengan membuka sidebar > Privacy dan menonaktifkan telemetri.

Apa yang Anda lacak secara eksplisit?

Kami hanya akan melacak detail penggunaan yang membantu kami membuat keputusan produk dan peta jalan, khususnya:

• Jenis instalasi Anda (Docker atau Desktop)
• Saat dokumen ditambahkan atau dihapus. Tidak ada informasi tentang dokumen tersebut. Hanya saja peristiwa itu terjadi. Ini memberi kita gambaran tentang kegunaannya.
• Jenis database vektor yang digunakan. Beri tahu kami penyedia database vektor mana yang paling banyak digunakan untuk memprioritaskan perubahan ketika pembaruan tiba untuk penyedia tersebut.
• Jenis LLM yang digunakan. Beri tahu kami pilihan paling populer dan prioritaskan perubahan saat pembaruan tiba untuk penyedia tersebut.
• Obrolan terkirim. Ini adalah "acara" paling rutin dan memberi kita gambaran tentang aktivitas sehari-hari proyek ini di semua instalasi. Sekali lagi, hanya acara yang dikirimkan - kami tidak memiliki informasi tentang sifat atau isi obrolan itu sendiri.

Anda dapat memverifikasi klaim ini dengan menemukan semua lokasi panggilan Telemetry.sendTelemetry . Selain itu, peristiwa ini ditulis ke log keluaran sehingga Anda juga dapat melihat data spesifik yang dikirim - jika diaktifkan. Tidak ada IP atau informasi identitas lainnya yang dikumpulkan. Penyedia Telemetri adalah PostHog - layanan pengumpulan telemetri sumber terbuka.

Lihat semua peristiwa telemetri dalam kode sumber

Berkontribusi

• membuat masalah
• membuat PR dengan format nama cabang <issue number>-<short name>
• LGTM dari tim inti

? Kontributor

? Lebih Banyak Produk

• VectorAdmin: GUI & rangkaian alat lengkap untuk mengelola database vektor.
• Kawanan Asisten OpenAI: Ubah seluruh perpustakaan asisten OpenAI Anda menjadi satu pasukan yang diperintahkan dari satu agen.

---

Hak Cipta © 2024 Mintplex Labs.
Proyek ini berlisensi MIT.