anything llm

AnythingLLM: универсальное приложение для искусственного интеллекта, которое вы искали.
Общайтесь со своими документами, используйте агенты AI, гиперконфигурируемые, многопользовательские, не требующие сложной настройки.

| | Документы | Размещенный экземпляр

Английский · 简体中文 · 日本語

AnythingLLM для настольных компьютеров (Mac, Windows и Linux)! Скачать сейчас

Полнофункциональное приложение, которое позволяет вам превратить любой документ, ресурс или часть контента в контекст, который любой LLM может использовать в качестве ссылки во время чата. Это приложение позволяет вам выбирать, какую базу данных LLM или Vector Database вы хотите использовать, а также поддерживает многопользовательское управление и разрешения.

Посмотрите демо!

Обзор продукта

AnythingLLM — это комплексное приложение, в котором вы можете использовать готовые коммерческие LLM или популярные решения LLM с открытым исходным кодом и решения VectorDB для создания частного ChatGPT без каких-либо компромиссов, который вы можете запускать локально, а также размещать удаленно и иметь возможность интеллектуально общаться в чате. с любыми документами, которые вы предоставите.

AnythingLLM делит ваши документы на объекты, называемые workspaces . Рабочая область во многом похожа на поток, но с добавлением контейнеризации ваших документов. Рабочие области могут обмениваться документами, но они не взаимодействуют друг с другом, поэтому вы можете поддерживать чистоту контекста каждой рабочей области.

Интересные возможности AnythingLLM

• ? Пользовательские ИИ-агенты
• ?️ Мультимодальная поддержка (как закрытые, так и открытые LLM!)
• ? Поддержка многопользовательского экземпляра и предоставление разрешений только для версии Docker.
• ? Агенты внутри вашего рабочего пространства (просматривайте веб-страницы, запускайте код и т. д.)
• Пользовательский встраиваемый виджет чата только для версии Docker вашего сайта
• Поддержка нескольких типов документов (PDF, TXT, DOCX и т. д.)
• Простой пользовательский интерфейс чата с функцией Drag-n-Drop и четкими цитатами.
• 100% готовность к развертыванию в облаке.
• Работает со всеми популярными поставщиками LLM с закрытым и открытым исходным кодом.
• Встроенные меры экономии средств и времени для управления очень большими документами по сравнению с любым другим пользовательским интерфейсом чата.
• Полный API разработчика для индивидуальной интеграции!
• Гораздо больше... установите и узнайте!

Поддерживаемые LLM, модели внедрения, речевые модели и векторные базы данных

Большие языковые модели (LLM):

• Любая модель с открытым исходным кодом, совместимая с llama.cpp.
• ОпенАИ
• OpenAI (общий)
• Azure OpenAI
• AWS Основа
• антропный
• Гугл Близнецы Про
• Обнимающее лицо (модели чата)
• Оллама (модели чата)
• LM Studio (все модели)
• LocalAi (все модели)
• Вместе AI (модели чата)
• AI фейерверков (модели чата)
• Растерянность (модели чата)
• OpenRouter (модели чата)
• DeepSeek (модели чата)
• Мистраль
• Грок
• Согласовать
• КобольдCPP
• ЛайтLLM
• Веб-интерфейс создания текста
• Апипи
• xAI
• Novita AI (модели чата)

Модели для встраивания:

• AnythingLLM Native Embedder (по умолчанию)
• ОпенАИ
• Azure OpenAI
• LocalAi (все)
• Оллама (все)
• ЛМ Студия (все)
• Согласовать

Модели аудиотранскрипции:

• AnythingLLM Встроенный (по умолчанию)
• ОпенАИ

Поддержка TTS (преобразование текста в речь):

• Встроенный браузер (по умолчанию)
• PiperTTSLocal — запускается в браузере
• OpenAI TTS
• ОдиннадцатьЛабс
• Любая служба TTS, совместимая с OpenAI.

Поддержка STT (речь в текст):

• Встроенный браузер (по умолчанию)

Векторные базы данных:

• Ланцедб (по умолчанию)
• Астра ДБ
• Сосновая шишка
• Цветность
• Плетение
• Кдрант
• Милвус
• Зиллиз

Технический обзор

Этот монорепозиторий состоит из трех основных разделов:

• frontend : интерфейс viteJS + React, который вы можете запустить, чтобы легко создавать и управлять всем вашим контентом, который может использовать LLM.
• server : Экспресс-сервер NodeJS для обработки всех взаимодействий и выполнения всех операций управления векторной базой данных и взаимодействия LLM.
• collector : экспресс-сервер NodeJS, который обрабатывает и анализирует документы из пользовательского интерфейса.
• docker : инструкции Docker и процесс сборки + информация для сборки из исходного кода.
• embed : подмодуль для генерации и создания виджета веб-встраивания.
• browser-extension : подмодуль расширения браузера Chrome.

? Самостоятельный хостинг

Mintplex Labs и сообщество поддерживают ряд методов развертывания, сценариев и шаблонов, которые вы можете использовать для локального запуска AnythingLLM. Обратитесь к таблице ниже, чтобы узнать, как выполнить развертывание в предпочитаемой вами среде или выполнить автоматическое развертывание.

Докер	АВС	GCP	Цифровой океан	Рендер.com

железная дорога	РепоОблако	Элестио

или настройте рабочий экземпляр AnythingLLM без Docker →

Как настроиться на разработку

• yarn setup Чтобы заполнить необходимые файлы .env , которые вам понадобятся в каждом из разделов приложения (из корня репо).
  • Прежде чем продолжить, заполните их. Убедитесь, что server/.env.development заполнен, иначе все будет работать неправильно.
• yarn dev:server Для локальной загрузки сервера (из корня репо).
• yarn dev:frontend Для локальной загрузки интерфейса (из корня репо).
• yarn dev:collector Чтобы затем запустить сборщик документов (из корня репо).

Узнать о документах

Узнайте о векторном кэшировании

Телеметрия и конфиденциальность

AnythingLLM от Mintplex Labs Inc содержит функцию телеметрии, которая собирает анонимную информацию об использовании.

Подробнее о телеметрии и конфиденциальности для AnythingLLM

Почему?

Мы используем эту информацию, чтобы понять, как используется AnythingLLM, определить приоритетность работы над новыми функциями и исправлениями ошибок, а также улучшить производительность и стабильность AnythingLLM.

Отказ от участия

Установите DISABLE_TELEMETRY в настройках вашего сервера или Docker .env значение «true», чтобы отказаться от телеметрии. Вы также можете сделать это в приложении, перейдя на боковую панель > Privacy и отключив телеметрию.

Что вы конкретно отслеживаете?

Мы будем отслеживать только те сведения об использовании, которые помогут нам принять решения по продукту и плану действий, а именно:

• Тип вашей установки (Docker или Desktop)
• При добавлении или удалении документа. Никакой информации о документе. Просто событие произошло. Это дает нам представление об использовании.
• Тип используемой базы данных векторов. Давайте узнаем, какой поставщик векторной базы данных чаще всего используется для определения приоритета изменений при поступлении обновлений для этого поставщика.
• Тип используемого LLM. Давайте узнаем наиболее популярный вариант и определим приоритетность изменений при поступлении обновлений для этого поставщика.
• Чат отправлен. Это самое регулярное «событие», которое дает нам представление о повседневной деятельности этого проекта во всех установках. Опять же отправляется только событие — никакой информации о характере и содержании самого чата у нас нет.

Вы можете проверить эти утверждения, найдя все местоположения, в которых вызывается Telemetry.sendTelemetry . Кроме того, эти события записываются в журнал вывода, поэтому вы также можете увидеть конкретные отправленные данные, если они включены. Никакой IP или другая идентифицирующая информация не собирается. Поставщиком телеметрии является PostHog — служба сбора телеметрии с открытым исходным кодом.

Просмотр всех событий телеметрии в исходном коде

Содействие

• создать проблему
• создать PR с форматом имени филиала <issue number>-<short name>
• LGTM от основной команды

? Авторы

? Больше продуктов

• VectorAdmin: универсальный графический интерфейс и набор инструментов для управления векторными базами данных.
• Рой помощников OpenAI: превратите всю свою библиотеку помощников OpenAI в одну армию, которой управляет один агент.

---

Авторские права © 2024 Mintplex Labs.
Этот проект имеет лицензию MIT.