anything llm 다운로드 - anything llm 소스 코드 다운로드

anything llm

기타 소스코드

v1.2.4

다운로드

AnythingLLM 로고

AnythingLLM: 당신이 찾던 올인원 AI 앱.
문서와 채팅하고, AI 에이전트를 사용하고, 하이퍼 구성이 가능하고, 다중 사용자가 가능하며, 불편한 설정이 필요하지 않습니다.

| | 문서 | 호스팅된 인스턴스

영어 · 简体中文 · 日本語

데스크톱(Mac, Windows, Linux)용 AnythingLLM! 지금 다운로드

모든 문서, 리소스 또는 콘텐츠를 모든 LLM이 채팅 중에 참조로 사용할 수 있는 컨텍스트로 전환할 수 있게 해주는 풀 스택 애플리케이션입니다. 이 애플리케이션을 사용하면 사용하려는 LLM 또는 벡터 데이터베이스를 선택하고 다중 사용자 관리 및 권한을 지원할 수 있습니다.

데모를 시청하세요!

비디오 보기

제품개요

AnythingLLM은 상용 LLM 또는 널리 사용되는 오픈 소스 LLM 및 벡터DB 솔루션을 사용하여 로컬로 실행할 수 있을 뿐만 아니라 원격으로 호스팅하고 지능적으로 채팅할 수 있는 타협 없이 개인 ChatGPT를 구축할 수 있는 풀 스택 응용 프로그램입니다. 귀하가 제공하는 모든 문서와 함께.

AnythingLLM은 문서를 workspaces 이라는 개체로 나눕니다. 작업공간은 스레드와 매우 유사하게 작동하지만 문서 컨테이너화가 추가됩니다. 작업 공간은 문서를 공유할 수 있지만 서로 통신하지 않으므로 각 작업 공간의 컨텍스트를 깔끔하게 유지할 수 있습니다.

AnythingLLM의 멋진 기능

? 맞춤형 AI 에이전트
?️ 다중 모드 지원(비공개 및 오픈 소스 LLM 모두!)
? 다중 사용자 인스턴스 지원 및 Docker 버전에만 권한 부여
? 작업 공간 내부의 에이전트(웹 탐색, 코드 실행 등)
웹 사이트 Docker 버전 전용 사용자 정의 포함 가능한 채팅 위젯
다양한 문서 유형 지원(PDF, TXT, DOCX 등)
드래그 앤 드롭 기능과 명확한 인용 기능을 갖춘 간단한 채팅 UI입니다.
100% 클라우드 배포가 준비되어 있습니다.
널리 사용되는 모든 폐쇄형 및 오픈 소스 LLM 제공업체와 협력합니다.
다른 채팅 UI에 비해 대용량 문서를 관리하기 위한 비용 및 시간 절약 기능이 내장되어 있습니다.
맞춤형 통합을 위한 전체 개발자 API!
훨씬 더...설치하고 알아보세요!

지원되는 LLM, Embedder 모델, 음성 모델 및 벡터 데이터베이스

대형 언어 모델(LLM):

모든 오픈 소스 llama.cpp 호환 모델
오픈AI
OpenAI(일반)
Azure OpenAI
AWS 기반암
인류학
구글 제미니 프로
포옹하는 얼굴(채팅 모델)
Ollama(채팅 모델)
LM 스튜디오(모든 모델)
LocalAi(모든 모델)
Together AI(채팅 모델)
Fireworks AI(채팅 모델)
Perplexity(채팅 모델)
OpenRouter(채팅 모델)
DeepSeek(채팅 모델)
미스트랄
그로크
코히어
코볼트CPP
LiteLLM
텍스트 생성 웹 UI
아피피
xAI
Novita AI(채팅 모델)

임베더 모델:

AnythingLLM 네이티브 임베더(기본값)
오픈AI
Azure OpenAI
LocalAi(전체)
올라마(모두)
LM 스튜디오(전체)
코히어

오디오 전사 모델:

AnythingLLM 내장(기본값)
오픈AI

TTS(텍스트 음성 변환) 지원:

기본 브라우저 내장(기본값)
PiperTTSLocal - 브라우저에서 실행됩니다.
오픈AI TTS
일레븐랩스
모든 OpenAI 호환 TTS 서비스.

STT(음성-텍스트) 지원:

기본 브라우저 내장(기본값)

벡터 데이터베이스:

LanceDB(기본값)
아스트라DB
솔방울
크로마
위비에이트
Qdrant
밀부스
질리즈

기술 개요

이 모노레포는 세 가지 주요 섹션으로 구성됩니다.

frontend : LLM이 사용할 수 있는 모든 콘텐츠를 쉽게 생성하고 관리하기 위해 실행할 수 있는 viteJS + React 프런트엔드입니다.
server : 모든 상호 작용을 처리하고 모든 벡터DB 관리 및 LLM 상호 작용을 수행하는 NodeJS Express 서버입니다.
collector : UI에서 문서를 처리하고 구문 분석하는 NodeJS Express 서버입니다.
docker : Docker 지침 및 빌드 프로세스 + 소스에서 빌드하기 위한 정보입니다.
embed : 웹 삽입 위젯 생성 및 생성을 위한 하위 모듈입니다.
browser-extension : Chrome 브라우저 확장을 위한 하위 모듈입니다.

? 셀프 호스팅

Mintplex Labs 및 커뮤니티는 AnythingLLM을 로컬에서 실행하는 데 사용할 수 있는 다양한 배포 방법, 스크립트 및 템플릿을 유지 관리합니다. 원하는 환경에 배포하는 방법이나 자동으로 배포하는 방법을 알아보려면 아래 표를 참조하세요.

도커	AWS	GCP	디지털 오션	렌더닷컴

철도	레포클라우드	엘레스티오

또는 Docker 없이 프로덕션 AnythingLLM 인스턴스 설정 →

개발을 위한 설정 방법

yarn setup 필수 .env 파일을 작성하려면 각 애플리케이션 섹션(repo 루트에서)에 필요합니다.
- 계속하기 전에 해당 항목을 작성하세요. server/.env.development 채워졌는지 확인하세요. 그렇지 않으면 제대로 작동하지 않을 것입니다.
yarn dev:server 서버를 로컬로 부팅합니다(repo 루트에서).
yarn dev:frontend 프런트엔드를 로컬로 부팅합니다(repo 루트에서).
yarn dev:collector 그런 다음 문서 수집기를 실행합니다(repo 루트에서).

문서에 대해 알아보기

벡터 캐싱에 대해 알아보기

원격 측정 및 개인 정보 보호

Mintplex Labs Inc의 AnythingLLM에는 익명의 사용 정보를 수집하는 원격 측정 기능이 포함되어 있습니다.

AnythingLLM의 원격 측정 및 개인 정보 보호에 대해 자세히 알아보기

왜?

우리는 이 정보를 사용하여 AnythingLLM이 사용되는 방식을 이해하고, 새로운 기능 및 버그 수정에 대한 작업의 우선순위를 정하고, AnythingLLM의 성능과 안정성을 개선하는 데 도움을 줍니다.

선택 해제

원격 측정을 선택 해제하려면 서버 또는 docker .env 설정에서 DISABLE_TELEMETRY "true"로 설정하세요. 사이드바 > Privacy 및 원격 측정 비활성화로 이동하여 앱 내에서 이 작업을 수행할 수도 있습니다.

명시적으로 무엇을 추적합니까?

우리는 특히 다음과 같이 제품 및 로드맵 결정을 내리는 데 도움이 되는 사용 세부 정보만 추적합니다.

설치 유형(Docker 또는 Desktop)
문서가 추가되거나 제거될 때. 문서 에 대한 정보가 없습니다. 단지 그 사건이 일어났을 뿐입니다. 이것은 우리에게 사용 아이디어를 제공합니다.
사용 중인 벡터 데이터베이스의 유형입니다. 해당 공급자에 대한 업데이트가 도착할 때 변경 사항의 우선 순위를 지정하는 데 가장 많이 사용되는 벡터 데이터베이스 공급자를 알려드리겠습니다.
사용 중인 LLM 유형입니다. 가장 인기 있는 선택 사항을 알려주고 해당 공급자에 대한 업데이트가 도착하면 변경 사항의 우선 순위를 지정하겠습니다.
채팅이 전송되었습니다. 이는 가장 정기적인 "이벤트"이며 모든 설치에 걸쳐 이 프로젝트의 일상 활동에 대한 아이디어를 제공합니다. 다시 한번 말씀드리지만, 이벤트만 전송됩니다. 채팅 자체의 성격이나 내용에 대한 정보는 없습니다.

Telemetry.sendTelemetry 호출되는 모든 위치를 찾아 이러한 주장을 확인할 수 있습니다. 또한 이러한 이벤트는 출력 로그에 기록되므로 활성화된 경우 전송된 특정 데이터도 볼 수 있습니다. IP 또는 기타 식별 정보는 수집되지 않습니다. 원격 측정 공급자는 오픈 소스 원격 측정 수집 서비스인 PostHog입니다.

소스 코드의 모든 원격 측정 이벤트 보기