anything llm

AnythingLLM: Die All-in-One-KI-App, nach der Sie gesucht haben.
Chatten Sie mit Ihren Dokumenten, verwenden Sie KI-Agenten, hyperkonfigurierbar, für mehrere Benutzer geeignet und keine frustrierende Einrichtung erforderlich.

| | Dokumente | Gehostete Instanz

Englisch · 简体中文 · 日本語

AnythingLLM für Desktop (Mac, Windows und Linux)! Jetzt herunterladen

Eine Full-Stack-Anwendung, mit der Sie jedes Dokument, jede Ressource oder jeden Inhalt in einen Kontext umwandeln können, den jeder LLM beim Chatten als Referenz verwenden kann. Mit dieser Anwendung können Sie auswählen, welche LLM- oder Vector-Datenbank Sie verwenden möchten, und außerdem die Verwaltung und Berechtigungen mehrerer Benutzer unterstützen.

Sehen Sie sich die Demo an!

Produktübersicht

AnythingLLM ist eine Full-Stack-Anwendung, bei der Sie kommerzielle Standard-LLMs oder beliebte Open-Source-LLMs und vectorDB-Lösungen verwenden können, um ein privates ChatGPT ohne Kompromisse zu erstellen, das Sie sowohl lokal ausführen als auch remote hosten und intelligent chatten können mit allen von Ihnen bereitgestellten Dokumenten.

AnythingLLM unterteilt Ihre Dokumente in Objekte, die als workspaces bezeichnet werden. Ein Arbeitsbereich funktioniert ähnlich wie ein Thread, verfügt jedoch zusätzlich über die Containerisierung Ihrer Dokumente. Arbeitsbereiche können Dokumente gemeinsam nutzen, sie kommunizieren jedoch nicht miteinander, sodass Sie Ihren Kontext für jeden Arbeitsbereich sauber halten können.

Coole Funktionen von AnythingLLM

• ? Benutzerdefinierte KI-Agenten
• ?️ Multimodale Unterstützung (sowohl geschlossene als auch Open-Source-LLMs!)
• ? Unterstützung für Mehrbenutzerinstanzen und Berechtigungen nur für die Docker-Version
• ? Agenten in Ihrem Arbeitsbereich (im Internet surfen, Code ausführen usw.)
• Benutzerdefiniertes einbettbares Chat-Widget nur für die Docker-Version Ihrer Website
• Unterstützung mehrerer Dokumenttypen (PDF, TXT, DOCX usw.)
• Einfache Chat-Benutzeroberfläche mit Drag-n-Drop-Funktionalität und klaren Zitaten.
• 100 % bereit für die Cloud-Bereitstellung.
• Funktioniert mit allen gängigen Closed- und Open-Source-LLM-Anbietern.
• Integrierte kosten- und zeitsparende Maßnahmen zur Verwaltung sehr großer Dokumente im Vergleich zu jeder anderen Chat-Benutzeroberfläche.
• Vollständige Entwickler-API für benutzerdefinierte Integrationen!
• Viel mehr ... installieren und herausfinden!

Unterstützte LLMs, Embedder-Modelle, Sprachmodelle und Vektordatenbanken

Große Sprachmodelle (LLMs):

• Jedes mit llama.cpp kompatible Open-Source-Modell
• OpenAI
• OpenAI (Generisch)
• Azure OpenAI
• AWS-Grundgestein
• Anthropisch
• Google Gemini Pro
• Umarmendes Gesicht (Chat-Modelle)
• Ollama (Chat-Modelle)
• LM Studio (alle Modelle)
• LocalAi (alle Modelle)
• Together AI (Chat-Modelle)
• Feuerwerks-KI (Chat-Modelle)
• Ratlosigkeit (Chat-Modelle)
• OpenRouter (Chat-Modelle)
• DeepSeek (Chat-Modelle)
• Mistral
• Groq
• Zusammenhängen
• KoboldCPP
• LiteLLM
• Web-Benutzeroberfläche zur Textgenerierung
• Apipie
• xAI
• Novita AI (Chat-Modelle)

Embedder-Modelle:

• AnythingLLM Native Embedder (Standard)
• OpenAI
• Azure OpenAI
• LocalAi (alle)
• Ollama (alle)
• LM Studio (alle)
• Zusammenhängen

Audiotranskriptionsmodelle:

• AnythingLLM integriert (Standard)
• OpenAI

TTS-Unterstützung (Text-to-Speech):

• Integrierter nativer Browser (Standard)
• PiperTTSLocal – läuft im Browser
• OpenAI TTS
• ElfLabs
• Jeder OpenAI-kompatible TTS-Dienst.

STT-Unterstützung (Speech-to-Text):

• Integrierter nativer Browser (Standard)

Vektordatenbanken:

• LanceDB (Standard)
• Astra DB
• Tannenzapfen
• Chroma
• Weben
• Qdrant
• Milvus
• Zilliz

Technischer Überblick

Dieses Monorepo besteht aus drei Hauptabschnitten:

• frontend : Ein viteJS + React-Frontend, das Sie ausführen können, um alle Ihre Inhalte, die das LLM verwenden kann, einfach zu erstellen und zu verwalten.
• server : Ein NodeJS-Express-Server, der alle Interaktionen abwickelt und alle vectorDB-Verwaltung und LLM-Interaktionen durchführt.
• collector : NodeJS-Express-Server, der Dokumente von der Benutzeroberfläche verarbeitet und analysiert.
• docker : Docker-Anweisungen und Build-Prozess + Informationen zum Erstellen aus dem Quellcode.
• embed : Submodul zur Generierung und Erstellung des Web-Einbettungs-Widgets.
• browser-extension : Submodul für die Chrome-Browsererweiterung.

? Selbsthosting

Mintplex Labs und die Community unterhalten eine Reihe von Bereitstellungsmethoden, Skripten und Vorlagen, die Sie zum lokalen Ausführen von AnythingLLM verwenden können. In der folgenden Tabelle erfahren Sie, wie Sie die Bereitstellung in Ihrer bevorzugten Umgebung oder die automatische Bereitstellung durchführen.

Docker	AWS	GCP	Digitaler Ozean	Render.com

Eisenbahn	RepoCloud	Elestio

oder richten Sie eine Produktionsinstanz von AnythingLLM ohne Docker ein →

So richten Sie es für die Entwicklung ein

• yarn setup Zum Ausfüllen der erforderlichen .env Dateien benötigen Sie in jedem Anwendungsabschnitt (vom Stammverzeichnis des Repos).
  • Füllen Sie diese aus, bevor Sie fortfahren. Stellen Sie sicher, dass server/.env.development gefüllt ist, sonst funktionieren die Dinge nicht richtig.
• yarn dev:server Zum lokalen Booten des Servers (vom Stammverzeichnis des Repositorys).
• yarn dev:frontend Um das Frontend lokal zu starten (vom Stammverzeichnis des Repos).
• yarn dev:collector Um dann den Dokumentenkollektor auszuführen (vom Stammverzeichnis des Repos).

Erfahren Sie mehr über Dokumente

Erfahren Sie mehr über Vektor-Caching

Telemetrie und Datenschutz

AnythingLLM von Mintplex Labs Inc enthält eine Telemetriefunktion, die anonyme Nutzungsinformationen sammelt.

Mehr über Telemetrie und Datenschutz für AnythingLLM

Warum?

Wir verwenden diese Informationen, um zu verstehen, wie AnythingLLM verwendet wird, um die Arbeit an neuen Funktionen und Fehlerbehebungen zu priorisieren und um die Leistung und Stabilität von AnythingLLM zu verbessern.

Abmelden

Setzen Sie DISABLE_TELEMETRY in Ihren Server- oder Docker-.env-Einstellungen auf „true“, um die Telemetrie zu deaktivieren. Sie können dies auch in der App tun, indem Sie in der Seitenleiste auf Privacy klicken und die Telemetrie deaktivieren.

Was verfolgen Sie explizit?

Wir verfolgen nur Nutzungsdetails, die uns bei Produkt- und Roadmap-Entscheidungen helfen, insbesondere:

• Art Ihrer Installation (Docker oder Desktop)
• Wenn ein Dokument hinzugefügt oder entfernt wird. Keine Informationen zum Dokument. Nur, dass das Ereignis eingetreten ist. Dies gibt uns eine Vorstellung von der Verwendung.
• Typ der verwendeten Vektordatenbank. Teilen Sie uns mit, welcher Vektordatenbankanbieter am häufigsten verwendet wird, um Änderungen zu priorisieren, wenn Updates für diesen Anbieter eintreffen.
• Art des verwendeten LLM. Teilen Sie uns die beliebteste Wahl mit und priorisieren Sie Änderungen, wenn Updates für diesen Anbieter eintreffen.
• Chat wird gesendet. Dies ist das regelmäßigste „Ereignis“ und gibt uns einen Eindruck von der täglichen Aktivität dieses Projekts über alle Installationen hinweg. Auch hier wird nur das Ereignis gesendet – über die Art und den Inhalt des Chats selbst liegen uns keine Informationen vor.

Sie können diese Behauptungen überprüfen, indem Sie alle Standorte ermitteln, an denen Telemetry.sendTelemetry aufgerufen wird. Zusätzlich werden diese Ereignisse in das Ausgabeprotokoll geschrieben, sodass Sie auch die spezifischen Daten sehen können, die gesendet wurden – sofern aktiviert. Es werden keine IP-Adressen oder andere identifizierende Informationen erfasst. Der Telemetrieanbieter ist PostHog – ein Open-Source-Telemetrie-Sammeldienst.

Alle Telemetrieereignisse im Quellcode anzeigen

Mitwirken

• Problem erstellen
• Erstellen Sie PR mit dem Filialnamenformat <issue number>-<short name>
• LGTM vom Kernteam

? Mitwirkende

? Weitere Produkte

• VectorAdmin: Eine All-in-One-GUI und Tool-Suite zur Verwaltung von Vektordatenbanken.
• OpenAI Assistant Swarm: Verwandeln Sie Ihre gesamte Bibliothek an OpenAI-Assistenten in eine einzige Armee, die von einem einzigen Agenten kommandiert wird.

---

Copyright © 2024 Mintplex Labs.
Dieses Projekt ist MIT-lizenziert.