anything llm

AnythingLLM: la aplicación de IA todo en uno que estabas buscando.
Chatea con tus documentos, usa agentes de IA, hiperconfigurable, multiusuario y no requiere configuración frustrante.

| | Documentos | Instancia alojada

Inglés · 简体中文 · 日本語

¡AnythingLLM para escritorio (Mac, Windows y Linux)! Descargar ahora

Una aplicación completa que le permite convertir cualquier documento, recurso o contenido en contexto que cualquier LLM puede usar como referencia durante el chat. Esta aplicación le permite elegir qué LLM o base de datos vectorial desea utilizar, además de admitir permisos y administración multiusuario.

¡Mira la demostración!

Descripción general del producto

AnythingLLM es una aplicación completa en la que puede utilizar LLM comerciales listos para usar o LLM populares de código abierto y soluciones vectorDB para crear un ChatGPT privado sin compromisos que puede ejecutar localmente, así como alojar de forma remota y poder chatear de forma inteligente. con cualquier documento que usted nos proporcione.

AnythingLLM divide sus documentos en objetos llamados workspaces . Un espacio de trabajo funciona de manera muy similar a un hilo, pero con la adición de contenedores para sus documentos. Los espacios de trabajo pueden compartir documentos, pero no se comunican entre sí, por lo que puede mantener limpio el contexto de cada espacio de trabajo.

Funciones interesantes de AnythingLLM

• ? Agentes de IA personalizados
• ?️ Soporte multimodal (¡LLM tanto cerrados como de código abierto!)
• ? Compatibilidad con instancias multiusuario y permisos solo para la versión Docker
• ? Agentes dentro de su espacio de trabajo (navegar por la web, ejecutar código, etc.)
• Widget de chat integrable personalizado solo para la versión Docker de su sitio web
• Compatibilidad con múltiples tipos de documentos (PDF, TXT, DOCX, etc.)
• Interfaz de usuario de chat sencilla con funcionalidad de arrastrar y soltar y citas claras.
• 100% listo para la implementación en la nube.
• Funciona con todos los proveedores LLM populares de código abierto y cerrado.
• Medidas integradas de ahorro de tiempo y costos para administrar documentos muy grandes en comparación con cualquier otra interfaz de usuario de chat.
• ¡API de desarrollador completa para integraciones personalizadas!
• Mucho más... ¡instala y descúbrelo!

LLM, modelos integrados, modelos de voz y bases de datos vectoriales compatibles

Modelos de lenguajes grandes (LLM):

• Cualquier modelo compatible con llama.cpp de código abierto
• Abierto AI
• OpenAI (genérico)
• Azure abierto AI
• Base de AWS
• antrópico
• Google Géminis Pro
• Abrazando la cara (modelos de chat)
• Ollama (modelos de chat)
• Estudio LM (todos los modelos)
• LocalAi (todos los modelos)
• Together AI (modelos de chat)
• Fuegos artificiales AI (modelos de chat)
• Perplejidad (modelos de chat)
• OpenRouter (modelos de chat)
• DeepSeek (modelos de chat)
• Mistral
• Groq
• Adherirse
• KoboldCPP
• LiteLLM
• UI web de generación de texto
• Apipie
• xAI
• Novita AI (modelos de chat)

Modelos de embebido:

• Incrustador nativo AnythingLLM (predeterminado)
• Abierto AI
• Azure abierto AI
• LocalAi (todos)
• Ollama (todos)
• Estudio LM (todos)
• Adherirse

Modelos de transcripción de audio:

• AnythingLLM integrado (predeterminado)
• Abierto AI

Soporte TTS (texto a voz):

• Navegador nativo integrado (predeterminado)
• PiperTTSLocal: se ejecuta en el navegador
• TTS abierto AI
• oncelabs
• Cualquier servicio TTS compatible con OpenAI.

Soporte STT (voz a texto):

• Navegador nativo integrado (predeterminado)

Bases de datos vectoriales:

• LanceDB (predeterminado)
• AstraDB
• Piña
• croma
• Weaviate
• Qdrant
• milvus
• Zilliz

Descripción técnica

Este monorepo consta de tres secciones principales:

• frontend : una interfaz viteJS + React que puede ejecutar para crear y administrar fácilmente todo el contenido que el LLM puede usar.
• server : un servidor express NodeJS para manejar todas las interacciones y realizar toda la gestión de vectorDB y las interacciones LLM.
• collector : servidor express NodeJS que procesa y analiza documentos desde la interfaz de usuario.
• docker : instrucciones de Docker y proceso de compilación + información para compilar desde la fuente.
• embed : Submódulo para la generación y creación del widget de inserción web.
• browser-extension : submódulo para la extensión del navegador Chrome.

? Autohospedaje

Mintplex Labs y la comunidad mantienen una serie de métodos de implementación, scripts y plantillas que puede utilizar para ejecutar AnythingLLM localmente. Consulte la siguiente tabla para leer cómo implementar en su entorno preferido o implementar automáticamente.

Estibador	AWS	PCG	Océano digital	render.com

Ferrocarril	RepoCloud	elestio

o configurar una instancia de producción de AnythingLLM sin Docker →

Cómo configurar para el desarrollo

• yarn setup Para completar los archivos .env requeridos, necesitará en cada una de las secciones de la aplicación (desde la raíz del repositorio).
  • Completelos antes de continuar. Asegúrese de que server/.env.development esté lleno o, de lo contrario, las cosas no funcionarán correctamente.
• yarn dev:server Para iniciar el servidor localmente (desde la raíz del repositorio).
• yarn dev:frontend Para iniciar la interfaz localmente (desde la raíz del repositorio).
• yarn dev:collector Para luego ejecutar el recopilador de documentos (desde la raíz del repositorio).

Más información sobre documentos

Más información sobre el almacenamiento en caché de vectores

Telemetría y privacidad

AnythingLLM de Mintplex Labs Inc contiene una función de telemetría que recopila información de uso anónima.

Más sobre telemetría y privacidad para AnythingLLM

¿Por qué?

Usamos esta información para ayudarnos a comprender cómo se usa AnythingLLM, para ayudarnos a priorizar el trabajo en nuevas funciones y correcciones de errores, y para ayudarnos a mejorar el rendimiento y la estabilidad de AnythingLLM.

Optar por no participar

Establezca DISABLE_TELEMETRY en la configuración de su servidor o docker .env en "verdadero" para optar por no recibir telemetría. También puedes hacer esto en la aplicación yendo a la barra lateral > Privacy y desactivando la telemetría.

¿Qué rastreas explícitamente?

Solo realizaremos un seguimiento de los detalles de uso que nos ayuden a tomar decisiones sobre productos y hojas de ruta, específicamente:

• Tipo de instalación (Docker o Desktop)
• Cuando se agrega o elimina un documento. No hay información sobre el documento. Simplemente que el hecho ocurrió. Esto nos da una idea de uso.
• Tipo de base de datos vectorial en uso. Háganos saber qué proveedor de bases de datos vectoriales es el más utilizado para priorizar los cambios cuando lleguen actualizaciones para ese proveedor.
• Tipo de LLM en uso. Infórmenos cuál es la opción más popular y priorice los cambios cuando lleguen actualizaciones para ese proveedor.
• Se envía el chat. Este es el "evento" más habitual y nos da una idea de la actividad diaria de este proyecto en todas las instalaciones. Nuevamente, solo se envía el evento; no tenemos información sobre la naturaleza o el contenido del chat en sí.

Puede verificar estas afirmaciones buscando todas las ubicaciones a las que se llama Telemetry.sendTelemetry . Además, estos eventos se escriben en el registro de salida para que también pueda ver los datos específicos que se enviaron, si están habilitados. No se recopila ninguna IP u otra información de identificación. El proveedor de telemetría es PostHog, un servicio de recopilación de telemetría de código abierto.

Ver todos los eventos de telemetría en el código fuente

Contribuyendo

• crear problema
• crear PR con el formato de nombre de sucursal de <issue number>-<short name>
• LGTM del equipo central

? Colaboradores

? Más productos

• VectorAdmin: una interfaz gráfica de usuario y un conjunto de herramientas todo en uno para gestionar bases de datos vectoriales.
• OpenAI Assistant Swarm: convierta toda su biblioteca de asistentes OpenAI en un solo ejército comandado por un solo agente.

---

Copyright © 2024 Laboratorios Mintplex.
Este proyecto tiene licencia del MIT.