lollms webui 다운로드 - lollms webui 소스코드 다운로드

lollms webui

AI 소스 코드

V14 (Saïph)

다운로드

LoLLM(대형 언어 다중 모드 시스템의 제왕) 웹 UI

LoLLM 핵심 라이브러리 다운로드 통계

lollms webui 다운로드 통계

LLM(Large Language Models) 및 다중 모드 지능 시스템의 허브인 lollms webui (대형 언어 다중 모드 시스템의 제왕: 모든 것을 지배하는 하나의 도구)에 오신 것을 환영합니다. 이 프로젝트는 다양한 작업에 대해 다양한 LLM 및 기타 AI 모델에 액세스하고 활용할 수 있는 사용자 친화적인 인터페이스를 제공하는 것을 목표로 합니다. 쓰기, 코딩, 데이터 구성, 이미지 분석, 이미지 생성, 음악 생성 또는 질문에 대한 답변 찾기에 도움이 필요한 경우, lollms webui 도와드립니다.

다양한 도메인에 걸쳐 500개 이상의 AI 전문가 컨디셔닝과 여러 도메인에 걸쳐 2500개 이상의 미세 조정 모델에 액세스할 수 있는 포괄적인 도구로서 이제 모든 문제에 대한 즉각적인 리소스를 확보할 수 있습니다. 자동차 수리가 필요하거나 Python, C++ 또는 JavaScript로 코딩 지원이 필요한 경우; 잘못 내려졌지만 어떻게 해야 할지 알 수 없는 삶의 결정에 대해 기분이 상하시나요? 롤름스에게 물어보세요. 현재 나타나는 증상을 기반으로 앞으로 건강에 어떤 일이 일어날지에 대한 지침이 필요한 의료 지원 AI는 귀하가 잠재적인 진단을 받고 올바른 의료 서비스를 받을 수 있도록 안내할 수 있습니다. 그러한 계약 해석과 같은 법적 문제가 막히면 집에서 편안하게 지내지 않고도 변호사에게 연락하여 통찰력을 얻을 수 있습니다. 긴 강의를 통해 어려움을 겪는 학생들에게 도움이 될 뿐만 아니라 평가 중에도 추가 지원을 제공하므로 나중에 많은 사람들이 혼란스러워할 수 있는 줄을 따라 읽는 것보다 개념을 제대로 이해할 수 있습니다. 오락을 원하시나요? 그런 다음 Laughter Bot에 참여하고 Dungeons & Dragons를 플레이하는 동안 눈에서 눈물이 흐를 때까지 히스테리적인 웃음을 즐기거나 Creative Story Generator 덕분에 함께 미친 이야기를 만들어 보세요. 일러스트레이션 작업이 필요하신가요? 걱정 마세요. Artbot이 우리를 도와드리겠습니다! 그리고 마지막으로 LordOfMusic은 개별 사양에 따른 음악 생성을 위해 여기에 있습니다. 따라서 본질적으로 Lollms라는 단일 플랫폼 내에서 가능한 모든 것을 달성할 수 있기 때문에 지루한 밤을 혼자서 보내는 것은 작별 인사입니다...

특징

작업에 대해 선호하는 바인딩, 모델 및 성격을 선택하세요.
이메일, 에세이, 코드 디버깅, 사고 정리 등을 강화하세요.
검색, 데이터 정리, 이미지 생성, 음악 생성 등 다양한 기능을 살펴보세요.
밝은 모드와 어두운 모드 옵션을 갖춘 사용하기 쉬운 UI
간편한 액세스를 위해 GitHub 저장소와 통합
사전 정의된 환영 메시지를 통해 다양한 성격 지원
생성된 답변에 대한 추천/비추천 평가
메시지 복사, 편집, 제거
토론을 위한 로컬 데이터베이스 저장소
여러 토론 검색, 내보내기 및 삭제
안정적인 확산 기반의 이미지/비디오 생성 지원
musicgen 기반의 음악 생성 지원
Lollms 노드 및 꽃잎을 통해 다세대 P2P 네트워크를 지원합니다.
Docker, Conda 및 수동 가상 환경 설정 지원
백엔드로 LM Studio 지원
백엔드로 Ollama 지원
백엔드로 vllm 지원
업무 복잡도에 따라 다양한 모델로 신속한 Routing 지원

스타의 역사

이 도구를 테스트하고 더욱 사용자 친화적으로 만드는 데 도움을 준 모든 사용자에게 감사드립니다.

설치

자동 설치(UI)

Windows를 사용하는 경우 릴리스 페이지를 방문하여 Windows 설치 프로그램을 다운로드하여 설치하세요.

자동 설치(콘솔)

scripts 폴더에서 설치 스크립트를 다운로드하고 실행하세요. 설치 스크립트는 다음과 같습니다.

Windows용 win_install.bat .
Linux용 linux_install.sh .
Mac용 mac_install.sh .

수동 설치:

v 9.4부터는 많은 서비스에서 별도의 환경 생성이 필요하고 lolms가 환경을 완벽하게 제어해야 하므로 수동 설치를 수행하지 않는 것이 좋습니다. 따라서 자체 conda 설정을 사용하여 설치하는 경우 서비스를 설치할 수 없으며 채팅 인터페이스에 대한 lolms 사용을 줄일 수 없습니다(xtts 없음, comfyui 없음, vllm 또는 꽃잎 등을 통한 빠른 생성 없음).

스마트 라우팅: 비용과 속도 최적화

Lollms의 스마트 라우팅 기능은 정확성을 위해 올바른 모델을 선택하는 것 이상입니다. 이를 통해 비용 과 속도 라는 두 가지 주요 요소에 대해 텍스트 생성 프로세스를 최적화할 수 있습니다.

비용에 맞춰 최적화:

가격대가 다양한 여러 텍스트 생성 서비스를 사용하고 있다고 상상해 보세요. 일부 모델은 매우 강력하지만 가격이 비싸며, 다른 모델은 약간 적은 기능을 갖춘 보다 예산 친화적인 옵션을 제공합니다. 스마트 라우팅을 사용하면 이러한 가격 차이를 유리하게 활용할 수 있습니다.

비용 효율적인 선택: 스마트 라우팅은 비용을 기준으로 모델 계층을 정의함으로써 프롬프트에 가장 경제적인 모델을 자동으로 선택할 수 있습니다. 이를 통해 필요한 전력에 대해서만 비용을 지불하고 불필요한 비용을 최소화할 수 있습니다.
동적 가격 조정: 즉각적인 복잡성 변화에 따라 Smart Routing은 모델 간에 동적으로 전환하여 현재 작업에 대해 항상 가장 비용 효율적인 옵션을 사용할 수 있도록 보장합니다.

속도 최적화:

속도는 특히 대용량 콘텐츠나 시간에 민감한 작업을 처리할 때 텍스트 생성에 있어 또 다른 중요한 요소입니다. 스마트 라우팅을 사용하면 다음을 통해 속도의 우선순위를 지정할 수 있습니다.

더 작은 모델의 우선순위 지정: 더 빠르고 리소스 집약적이지 않은 모델을 계층 구조의 상위에 배치함으로써 스마트 라우팅은 간단한 프롬프트에 대해 속도의 우선순위를 지정할 수 있습니다. 이를 통해 빠른 응답과 효율적인 처리가 보장됩니다.
동적 속도 조정: 더 큰 모델의 성능이 필요한 더 복잡한 프롬프트의 경우 Smart Routing은 속도와 정확성 사이의 균형을 유지하면서 해당 모델로 원활하게 전환할 수 있습니다.

사용 사례 예시:

콘텐츠 마케팅: 스마트 라우팅을 사용하여 대량의 블로그 게시물이나 소셜 미디어 콘텐츠를 생성하기 위한 가장 비용 효율적인 모델을 선택하세요.
고객 지원: 자주 묻는 질문에 대한 빠른 응답을 위해 더 작은 모델을 사용하고 복잡한 문의에 대해서는 더 강력한 모델을 활용하여 속도를 우선시합니다.
연구 및 개발: 계층형 모델 계층 구조를 사용하여 비용과 속도 모두 최적화하여 심층 분석을 위해 보다 강력한 모델을 사용하는 동시에 초기 초안을 신속하게 생성할 수 있습니다.

결론:

Smart Routing은 비용과 속도 측면에서 텍스트 생성 프로세스를 최적화할 수 있는 다목적 도구입니다. 모델의 계층 구조를 활용하고 즉각적인 복잡성에 따라 선택 항목을 동적으로 조정함으로써 효율성, 정확성 및 비용 효율성 간의 완벽한 균형을 이룰 수 있습니다.

행동강령

이 도구를 사용함으로써 사용자는 다음 지침을 따르는 데 동의하게 됩니다.

이 도구는 가짜 뉴스/잘못된 정보를 구축하고 퍼뜨리는 데 사용하기 위한 것이 아닙니다.
이 도구를 사용하여 생성한 내용에 대한 책임은 귀하에게 있습니다. 제작자는 이 롤름을 통해 생성된 모든 것에 대해 책임을 지지 않습니다.
Apache 2.0 라이센스 조건을 준수하는 데 동의하면 자신의 프로젝트에서 무료로 lolms를 사용할 수 있습니다. https://www.apache.org/licenses/LICENSE-2.0을 참조하세요.
다른 사람에게 직간접적으로 해를 끼치기 위해 롤름을 사용하는 것은 허용되지 않습니다. 이 도구는 평화로운 목적을 위한 것이며 결코 나쁜 쪽으로 사용되어서는 안 됩니다.
사용자는 OpenAI API 등과 같이 제3자가 제공하는 콘텐츠에 액세스할 때 해당되는 경우 저작권 제한을 포함하여 현지 법률을 준수해야 합니다.

️ 보안 경고

lollms webui 에는 사용자 인증 기능이 내장되어 있지 않으며 주로 로컬 사용을 위해 설계되었습니다. 적절한 보안 조치 없이 WebUI를 외부 액세스에 노출하면 잠재적인 취약점이 발생할 수 있습니다.

LoLLM에 대한 원격 액세스가 필요한 경우 다음 보안 지침을 따르는 것이 좋습니다.

헤드리스 모드 활성화 : 헤드리스 모드를 활성화하면 생성 API만 노출되고 잠재적으로 취약한 다른 엔드포인트는 꺼집니다. 이는 공격 표면을 최소화하는 데 도움이 됩니다.
보안 터널 설정 : LoLLM을 실행하는 로컬 호스트와 액세스가 필요한 원격 PC 사이에 보안 터널을 설정합니다. 이렇게 하면 두 장치 간의 통신이 암호화되어 보호됩니다.

구성 설정 수정 : 보안 터널을 설정한 후 /configs/local_config.yaml 파일을 편집하고 다음 설정을 조정합니다.

 host : 0.0.0.0  # Allow remote connections
port : 9600  # Change the port number if desired (default is 9600)
force_accept_remote_access : true  # Force accepting remote connections
headless_server_mode : true  # Set to true for API-only access, or false if the WebUI is needed

이러한 보안 관행을 따르면 원격 액세스를 활성화할 때 LoLLM 인스턴스와 해당 사용자를 잠재적인 보안 위험으로부터 보호할 수 있습니다.

시스템과 민감한 정보를 보호하려면 보안의 우선순위를 정하고 필요한 예방 조치를 취하는 것이 중요합니다. LoLLM 보안에 관해 추가 질문이나 우려 사항이 있는 경우 설명서를 참조하거나 커뮤니티에 도움을 요청하세요.

안전을 유지하고 책임감 있게 LoLLM을 즐겨보세요!

부인 성명

대규모 언어 모델은 다양한 목적으로 사용할 수 있는 놀라운 도구입니다. Lollms는 이러한 기능을 활용하여 사용자의 생산성 향상을 돕기 위해 제작되었습니다. 그러나 이러한 모델에는 한계가 있으며 인간의 지능이나 창의성을 대체해서는 안 되며 오히려 대량의 데이터에서 발견된 패턴을 기반으로 제안을 제공하여 이를 강화해야 한다는 점을 명심해야 합니다. 책임감있게 사용하는 방법은 각 개인에게 달려 있습니다!

시스템의 성능은 사용된 모델, 크기, 훈련된 데이터세트에 따라 달라집니다. 일반적으로 언어 모델의 훈련 세트가 클수록(더 많은 예제) 작은 시스템을 사용하는 시스템과 달리 이러한 시스템을 사용할 때 더 나은 결과를 얻을 수 있습니다. 그러나 특정 프롬프트에서 생성된 출력이 항상 완벽하다는 보장은 없으며 다양한 이유로 인해 오류가 포함될 수 있습니다. 따라서 전문가와 직접 상담하지 않고 약물 선택이나 재정적 결정과 같은 심각한 문제에 사용하지 마십시오!