欢迎来到lollms webui (大型语言多模态系统之王:统治一切的工具),这是 LLM(大型语言模型)和多模态智能系统的中心。该项目旨在提供一个用户友好的界面来访问和利用各种 LLM 和其他人工智能模型来完成广泛的任务。无论您需要写作、编码、组织数据、分析图像、生成图像、生成音乐还是寻求问题答案方面的帮助, lollms webui都能满足您的需求。
作为一款包罗万象的工具,可以访问不同领域的 500 多个 AI 专家调节以及多个领域的 2500 多个微调模型,您现在可以立即获得解决任何问题的资源。您的汽车是否需要维修,或者您是否需要 Python、C++ 或 JavaScript 编码帮助;对错误的人生决定感到沮丧却又不知道该怎么办?问问洛姆斯。如果您需要根据当前症状了解未来的健康状况,我们的医疗援助人工智能可以帮助您获得潜在的诊断并指导您寻求正确的医疗护理。如果遇到诸如合同解释之类的法律问题,请随时联系律师,以获得一些见解——所有这些都无需离开舒适的家。它不仅可以帮助学生在冗长的读物中苦苦挣扎,而且还在评估过程中为他们提供额外的支持,这样他们就能够正确掌握概念,而不是仅仅沿着线索阅读,这可能会让许多人感到困惑。想要一些娱乐吗?然后与笑声机器人互动,让自己在玩《龙与地下城》时享受歇斯底里的笑声,直到热泪盈眶,或者借助创意故事生成器一起编造疯狂的故事。需要完成插图工作吗?不用担心,Artbot 已经帮我们解决了!最后但同样重要的一点是,LordOfMusic 可以根据个人规格生成音乐。因此,基本上告别无聊的夜晚,因为一切可能都可以在一个名为 Lollms 的平台上实现......
感谢所有测试此工具并帮助使其更加用户友好的用户。
如果您使用的是 Windows,只需访问发布页面,下载 Windows 安装程序并安装即可。
从脚本文件夹下载安装脚本并运行它。安装脚本是:
win_install.bat
适用于 Windows。linux_install.sh
。mac_install.sh
。从 v 9.4 开始,不建议手动安装,因为许多服务需要创建单独的环境,并且 lollms 需要对环境进行完全控制。因此,如果您使用自己的 conda 设置来安装它,您将无法安装任何服务并减少聊天界面 lollms 的使用(没有 xtts,没有 comfyui,没有通过 vllm 或 petals 等快速生成)
Lollms 的智能路由功能不仅仅是选择正确的模型以确保准确性。它使您能够针对两个关键因素优化文本生成过程:金钱和速度。
金钱优化:
想象一下您正在使用多种价格不同的文本生成服务。有些型号可能非常强大,但价格昂贵,而另一些型号则提供更经济的选择,但功能稍差。智能路由让您可以利用这种价格差异来发挥自己的优势:
优化速度:
速度是文本生成的另一个关键因素,尤其是在处理大量内容或时间敏感的任务时。智能路由允许您通过以下方式优先考虑速度:
示例用例:
结论:
智能路由是一种多功能工具,可帮助您优化文本生成过程的成本和速度。通过利用模型层次结构并根据即时复杂性动态调整您的选择,您可以实现效率、准确性和成本效益之间的完美平衡。
通过使用此工具,用户同意遵循以下准则:
请注意, lollms webui没有内置的用户身份验证,主要是为本地使用而设计的。如果没有适当的安全措施,将 WebUI 暴露给外部访问可能会导致潜在的漏洞。
如果您需要远程访问 LoLLM,强烈建议遵循以下安全准则:
激活无头模式:启用无头模式将仅公开生成 API,同时关闭其他可能存在漏洞的端点。这有助于最大限度地减少攻击面。
设置安全隧道:在运行 LoLLM 的本地主机和需要访问的远程 PC 之间建立安全隧道。这可确保两个设备之间的通信得到加密和保护。
修改配置设置:设置安全隧道后,编辑/configs/local_config.yaml
文件并调整以下设置:
host : 0.0.0.0 # Allow remote connections
port : 9600 # Change the port number if desired (default is 9600)
force_accept_remote_access : true # Force accepting remote connections
headless_server_mode : true # Set to true for API-only access, or false if the WebUI is needed
通过遵循这些安全实践,您可以帮助保护 LoLLM 实例及其用户在启用远程访问时免受潜在的安全风险。
请记住,优先考虑安全性并采取必要的预防措施来保护您的系统和敏感信息至关重要。如果您对 LoLLM 的安全性有任何其他问题或疑虑,请查阅文档或联系社区寻求帮助。
确保安全并负责任地使用 LoLLM!
大型语言模型是令人惊叹的工具,可用于多种目的。 Lollms 的诞生就是为了利用这种力量来帮助用户提高生产力。但您需要记住,这些模型有其局限性,不应取代人类的智力或创造力,而应通过根据大量数据中发现的模式提供建议来增强它。如何负责任地使用它们取决于每个人!
系统的性能取决于所使用的模型、其大小以及训练的数据集。一般来说,语言模型的训练集越大(示例越多),与使用较小系统的系统相比,使用此类系统会得到更好的结果。但仍然不能保证任何给定提示生成的输出总是完美的,并且可能由于各种原因包含错误。因此,请确保您不要在没有直接咨询专家的情况下将其用于严重的问题,例如选择药物或做出财务决策!
该存储库使用 ApacheLicense Version 2.0 下的代码,有关使用和分发方面授予的权利的详细信息,请参阅许可证文件
巴黎新2023