lollms webui
V14 (Saïph)
Bem-vindo ao lollms webui (Senhor dos Sistemas Multimodais de Grandes Linguagens: Uma ferramenta para governar todos eles), o centro para LLM (Large Language Models) e sistemas de inteligência multimodais. Este projeto visa fornecer uma interface amigável para acessar e utilizar vários LLM e outros modelos de IA para uma ampla gama de tarefas. Se você precisa de ajuda para escrever, codificar, organizar dados, analisar imagens, gerar imagens, gerar música ou buscar respostas para suas perguntas, lollms webui tem o que você precisa.
Como uma ferramenta abrangente com acesso a mais de 500 condicionamentos especializados em IA em diversos domínios e mais de 2.500 modelos ajustados em vários domínios, agora você tem um recurso imediato para qualquer problema. Se seu carro precisa de conserto ou se você precisa de assistência de codificação em Python, C++ ou JavaScript; sentindo-se deprimido com as decisões de vida que foram tomadas de forma errada, mas incapaz de ver como? Pergunte a Lollms. Precisa de orientação sobre o que está por vir em termos de saúde com base nos sintomas atuais apresentados. Nossa IA de assistência médica pode ajudá-lo a obter um diagnóstico potencial e orientá-lo a procurar o atendimento médico correto. Se estiver preso a questões jurídicas, tal interpretação de contrato, sinta-se à vontade para entrar em contato com a personalidade do advogado, para obter algumas informações em mãos - tudo sem sair do conforto de casa. Isso não apenas ajuda os alunos que enfrentam longas aulas, mas também lhes fornece suporte extra durante as avaliações, para que sejam capazes de compreender os conceitos adequadamente, em vez de apenas ler linhas que podem deixar muitos confusos posteriormente. Quer algum entretenimento? Em seguida, envolva o Laughter Bot e deixe-se levar por risadas histéricas até que as lágrimas rolem dos olhos enquanto jogam Dungeons & Dragons ou inventem histórias malucas juntos graças ao Creative Story Generator. Precisa de um trabalho de ilustração feito? Não se preocupe, Artbot nos ajudou lá! E por último, mas não menos importante, LordOfMusic está aqui para gerar música de acordo com especificações individuais. Então, essencialmente, diga adeus às noites chatas sozinho, porque tudo o que é possível pode ser alcançado em uma única plataforma chamada Lollms...
Obrigado a todos os usuários que testaram esta ferramenta e ajudaram a torná-la mais amigável.
Se você estiver usando Windows, basta visitar a página de lançamento, baixar o instalador do Windows e instalá-lo.
Baixe o script de instalação da pasta scripts e execute-o. Os scripts de instalação são:
win_install.bat para Windows.linux_install.sh para Linux.mac_install.sh para Mac.Desde a versão 9.4, não é aconselhável fazer instalação manual, pois muitos serviços exigem a criação de um ambiente separado e o lollms precisa ter controle total sobre os ambientes. Portanto, se você instalá-lo usando sua própria configuração do conda, não será capaz de instalar nenhum serviço e reduzir o uso de lollms na interface de chat (sem xtts, sem comfyui, sem geração rápida através de vllm ou pétalas ou qualquer outra coisa)
O recurso Smart Routing do Lollms vai além de apenas selecionar o modelo certo para precisão. Ele permite que você otimize seu processo de geração de texto para dois fatores principais: dinheiro e velocidade .
Otimizando para dinheiro:
Imagine que você está usando vários serviços de geração de texto com preços variados. Alguns modelos podem ser excepcionalmente poderosos, mas têm um preço elevado, enquanto outros oferecem uma opção mais econômica com um pouco menos de capacidade. O Smart Routing permite que você aproveite essa diferença de preço a seu favor:
Otimizando para velocidade:
A velocidade é outro fator crítico na geração de texto, especialmente ao lidar com grandes volumes de conteúdo ou tarefas urgentes. O Roteamento Inteligente permite que você priorize a velocidade:
Exemplos de casos de uso:
Conclusão:
Smart Routing é uma ferramenta versátil que permite otimizar seu processo de geração de texto em termos de custo e velocidade. Ao aproveitar uma hierarquia de modelos e ajustar dinamicamente sua seleção com base na complexidade imediata, você pode alcançar o equilíbrio perfeito entre eficiência, precisão e economia.
Ao usar esta ferramenta, os usuários concordam em seguir estas diretrizes:
Esteja ciente de que lollms webui não possui autenticação de usuário integrada e foi projetado principalmente para uso local. Expor a WebUI ao acesso externo sem medidas de segurança adequadas pode levar a vulnerabilidades potenciais.
Se você precisar de acesso remoto aos LoLLMs, é altamente recomendável seguir estas diretrizes de segurança:
Ativar modo headless : ativar o modo headless exporá apenas a API de geração enquanto desativa outros endpoints potencialmente vulneráveis. Isso ajuda a minimizar a superfície de ataque.
Configure um túnel seguro : Estabeleça um túnel seguro entre o host local executando LoLLMs e o PC remoto que precisa de acesso. Isto garante que a comunicação entre os dois dispositivos seja criptografada e protegida.
Modificar definições de configuração : depois de configurar o túnel seguro, edite o arquivo /configs/local_config.yaml e ajuste as seguintes configurações:
host : 0.0.0.0 # Allow remote connections
port : 9600 # Change the port number if desired (default is 9600)
force_accept_remote_access : true # Force accepting remote connections
headless_server_mode : true # Set to true for API-only access, or false if the WebUI is neededSeguindo essas práticas de segurança, você pode ajudar a proteger sua instância LoLLMs e seus usuários contra possíveis riscos de segurança ao habilitar o acesso remoto.
Lembre-se de que é crucial priorizar a segurança e tomar as precauções necessárias para proteger seu sistema e informações confidenciais. Se você tiver mais dúvidas ou preocupações em relação à segurança dos LoLLMs, consulte a documentação ou entre em contato com a comunidade para obter assistência.
Fique seguro e aproveite o uso responsável do LoLLMs!
Modelos de linguagem grande são ferramentas incríveis que podem ser usadas para diversos fins. O Lollms foi construído para aproveitar esse poder para ajudar o usuário a aumentar sua produtividade. Mas é preciso ter em mente que estes modelos têm as suas limitações e não devem substituir a inteligência ou a criatividade humanas, mas sim aumentá-las, fornecendo sugestões baseadas em padrões encontrados em grandes quantidades de dados. Cabe a cada indivíduo decidir como usá-los com responsabilidade!
O desempenho do sistema varia dependendo do modelo utilizado, do seu tamanho e do conjunto de dados no qual foi treinado. Quanto maior o conjunto de treinamento de um modelo de linguagem (mais exemplos), em geral - melhores resultados surgirão ao usar tais sistemas, em oposição àqueles com sistemas menores. Mas ainda não há garantia de que a saída gerada a partir de qualquer prompt seja sempre perfeita e pode conter erros por diversos motivos. Portanto, certifique-se de não usá-lo para assuntos sérios, como escolher medicamentos ou tomar decisões financeiras sem consultar um especialista em primeira mão!
Este repositório usa código sob ApacheLicense versão 2.0, consulte o arquivo de licença para obter detalhes sobre os direitos concedidos com relação ao uso e distribuição
ParisNeo 2023
