lollms webui
V14 (Saïph)
Добро пожаловать в lollms webui («Повелитель больших языковых мультимодальных систем: один инструмент, чтобы управлять ими всеми»), центр LLM (больших языковых моделей) и мультимодальных интеллектуальных систем. Целью этого проекта является предоставление удобного интерфейса для доступа и использования различных моделей LLM и других моделей искусственного интеллекта для широкого круга задач. Если вам нужна помощь с написанием, кодированием, организацией данных, анализом изображений, созданием изображений, созданием музыки или поиском ответов на ваши вопросы, lollms webui поможет вам.
Благодаря всеобъемлющему инструменту с доступом к более чем 500 экспертам в области искусственного интеллекта в различных областях и более чем 2500 точно настроенным моделям в различных областях, теперь у вас есть непосредственный ресурс для решения любой проблемы. Нужен ли вашему автомобилю ремонт или вам нужна помощь в программировании на Python, C++ или JavaScript; расстроены жизненными решениями, которые были приняты неправильно, но не можете понять, как это сделать? Спросите Лолмса. Если вам нужны рекомендации о том, что ждет вас впереди с точки зрения здоровья, на основе имеющихся текущих симптомов, наша искусственная система медицинской помощи может помочь вам поставить потенциальный диагноз и помочь вам обратиться за правильной медицинской помощью. Если у вас возникли юридические вопросы, такие как толкование контракта, не стесняйтесь обратиться к юристу, чтобы получить некоторую информацию под рукой - и все это, не выходя из дома. Это не только помогает студентам справиться с этими длинными лекциями, но и обеспечивает им дополнительную поддержку во время оценивания, поэтому они могут правильно усвоить концепции, а не просто читать строки, которые впоследствии могут привести многих в замешательство. Хотите развлечений? Затем включите Laughter Bot и позвольте себе насладиться истерическим смехом до тех пор, пока слезы не потекут из глаз, играя в Dungeons & Dragons, или вместе придумывайте сумасшедшие истории с помощью Creative Story Generator. Нужна работа по иллюстрации? Не волнуйтесь, Artbot поможет нам в этом! И последнее, но не менее важное: LordOfMusic предназначен для создания музыки в соответствии с индивидуальными требованиями. По сути, попрощайтесь со скучными ночами в одиночестве, потому что всего возможного можно достичь на одной платформе под названием Lollms...
Благодарим всех пользователей, которые протестировали этот инструмент и помогли сделать его более удобным для пользователя.
Если вы используете Windows, просто посетите страницу выпуска, загрузите установщик Windows и установите его.
Загрузите скрипт установки из папки scripts и запустите его. Скрипты установки:
win_install.bat для Windows.linux_install.sh для Linux.mac_install.sh для Mac.Начиная с версии 9.4, не рекомендуется выполнять установку вручную, поскольку многие службы требуют создания отдельной среды, а lollms должен иметь полный контроль над этой средой. Поэтому, если вы установите его, используя свою собственную настройку conda, вы не сможете установить какой-либо сервис и сократить использование lollms в интерфейсе чата (без xtts, без comfyui, без быстрой генерации через vllm или лепестки или что-то в этом роде).
Функция Smart Routing от Lollms выходит за рамки простого выбора правильной модели для обеспечения точности. Это дает вам возможность оптимизировать процесс создания текста с учетом двух ключевых факторов: денег и скорости .
Оптимизация за деньги:
Представьте, что вы используете несколько служб генерации текста с разными ценами. Некоторые модели могут быть исключительно мощными, но иметь высокую цену, в то время как другие предлагают более бюджетный вариант с немного меньшими возможностями. Интеллектуальная маршрутизация позволяет вам использовать эту разницу в ценах в свою пользу:
Оптимизация скорости:
Скорость — еще один критический фактор при создании текста, особенно при работе с большими объемами контента или срочными задачами. Интеллектуальная маршрутизация позволяет расставить приоритеты скорости посредством:
Примеры использования:
Заключение:
Smart Routing — это универсальный инструмент, который позволяет оптимизировать процесс генерации текста как по стоимости, так и по скорости. Используя иерархию моделей и динамически корректируя выбор в зависимости от сложности, вы можете достичь идеального баланса между эффективностью, точностью и экономичностью.
Используя этот инструмент, пользователи соглашаются следовать этим правилам:
Имейте в виду, что lollms webui не имеет встроенной аутентификации пользователя и в первую очередь предназначен для локального использования. Открытие WebUI для внешнего доступа без надлежащих мер безопасности может привести к потенциальным уязвимостям.
Если вам требуется удаленный доступ к LoLLM, настоятельно рекомендуется следовать следующим правилам безопасности:
Активировать безголовый режим . Включение безголового режима предоставит доступ только к API генерации, отключив при этом другие потенциально уязвимые конечные точки. Это помогает минимизировать поверхность атаки.
Настройте безопасный туннель : установите безопасный туннель между локальным хостом, на котором работает LoLLM, и удаленным компьютером, которому требуется доступ. Это гарантирует, что связь между двумя устройствами зашифрована и защищена.
Измените параметры конфигурации . После настройки безопасного туннеля отредактируйте файл /configs/local_config.yaml и настройте следующие параметры:
host : 0.0.0.0 # Allow remote connections
port : 9600 # Change the port number if desired (default is 9600)
force_accept_remote_access : true # Force accepting remote connections
headless_server_mode : true # Set to true for API-only access, or false if the WebUI is neededСледуя этим правилам безопасности, вы сможете защитить свой экземпляр LoLLM и его пользователей от потенциальных угроз безопасности при включении удаленного доступа.
Помните, что крайне важно расставить приоритеты в вопросах безопасности и принять необходимые меры предосторожности для защиты вашей системы и конфиденциальной информации. Если у вас есть дополнительные вопросы или сомнения относительно безопасности LoLLM, ознакомьтесь с документацией или обратитесь за помощью к сообществу.
Берегите себя и наслаждайтесь ответственным использованием LoLLM!
Большие языковые модели — это удивительные инструменты, которые можно использовать для самых разных целей. Lollms был создан для того, чтобы использовать эту мощь и помочь пользователю повысить свою производительность. Но вы должны иметь в виду, что эти модели имеют свои ограничения и не должны заменять человеческий интеллект или творческие способности, а, скорее, дополнять их, предоставляя предложения, основанные на закономерностях, обнаруженных в больших объемах данных. Каждый сам решает, как использовать их ответственно!
Производительность системы варьируется в зависимости от используемой модели, ее размера и набора данных, на котором она обучалась. Вообще говоря, чем больше обучающий набор языковой модели (чем больше примеров), тем лучшие результаты будут получены при использовании таких систем, чем при использовании меньших систем. Но по-прежнему нет гарантии, что результат, генерируемый любым заданным приглашением, всегда будет идеальным и может содержать ошибки по разным причинам. Поэтому, пожалуйста, убедитесь, что вы не используете его для серьезных вопросов, таких как выбор лекарств или принятие финансовых решений, не посоветовавшись с экспертом из первых рук!
В этом репозитории используется код ApacheLicense версии 2.0. Подробную информацию о правах, предоставляемых в отношении использования и распространения, см. в файле лицензии.
ПарижНео 2023
