eternal

영원한

Eternal은 머신러닝 워크플로우를 위한 실험적인 플랫폼입니다.

참고: 이 앱은 작업이 진행 중이며 안정적이지 않습니다. 참고용으로 이 저장소를 고려해 보세요. 우리는 기여자와 건설적인 피드백을 환영합니다. 자신의 프로젝트에 참고 자료로 사용해도 좋습니다.

Eternal은 llama.cpp , ComfyUI 및 codapi 와 같은 다양한 프로젝트를 개발자들이 전 세계와 공유할 만큼 친절했던 다른 많은 프로젝트와 통합합니다. 모든 크레딧은 이 저장소가 의존하는 모든 종속성의 각 기여자에게 속합니다. 귀하의 프로젝트를 전 세계와 공유해 주셔서 감사합니다.

Eternal 프런트엔드는 전설적인 HTMX 프레임워크로 렌더링됩니다.

중요한:

시스템 사양에 맞게 config.yml 에서 모델의 수량 수준을 적절하게 구성하세요. 로컬 모델 실행에 실패하면 생성된 main.log 파일을 확인하여 이유를 조사하세요. 가장 일반적인 이유는 RAM이 부족하거나 프롬프트 템플릿이 잘못되었기 때문입니다. 향후 커밋에서는 보다 강력한 오류 처리 및 로깅을 구현할 예정입니다.

특징

• 간편한 ML 모델 구성 및 다운로드 .config.yml 의 기본 모델 카탈로그 예를 참조하세요.
• Llama-3-8b-Instruct by Meta, Codestral by Mistral AI 및 강력한 공개 OpenAI GPT-4o, Anthropic Sonnet 3.5, Google Gemini와 같은 현지 언어 모델을 사용하여 텍스트를 생성합니다. (공개 모델에는 자체 API 키가 필요합니다)
• LLM이 참조할 URL 콘텐츠를 가져오는 웹 검색입니다.
• LLM이 참조할 사용자 프롬프트에 대한 상위 결과를 자동으로 검색하는 웹 검색입니다. Chrome 브라우저 설치가 필요합니다. Eternal은 헤드리스 인스턴스를 자동으로 관리하므로 브라우저를 열 필요가 없습니다.
• 맞춤형 워크플로와 함께 ComfyUI 백엔드를 사용한 고급 이미지 생성. Eternal은 ComfyUI를 자동으로 배포하고 관리합니다.

시작하기

기본 문서는 이 저장소의 docs 폴더에 제공됩니다.

유리 진열장

웹 검색 - 검색

• webget : 프롬프트의 일부로 전달된 URL을 가져오려고 시도합니다.
• websearch : 프롬프트와 관련된 페이지를 공개 웹에서 검색합니다.

Chrome 브라우저 설치가 필요합니다.

코드 실행

보안 샌드박스의 채팅 보기에서 LLM 생성 코드를 실행하고 편집하세요. 현재 JavaScript는 WASM을 통해 구현됩니다. 더 많은 언어가 곧 제공될 예정입니다!

이미지 생성

Eternal은 고품질 출력을 위해 자동으로 관리되고 조정되는 강력한 사용자 정의 ComfyUI 워크플로우를 사용하여 이미지를 생성할 수 있습니다. 더 이상 수백 개의 매개변수를 조정할 필요가 없습니다. 설명하고 생성합니다. 역할을 image_bot 으로 설정하고 로컬 또는 공개 LLM을 선택하여 프롬프트를 강화하세요.

기본 이미지 프롬프트

대규모 언어 모델 향상된 프롬프트

구성

제공된 .config.yml 파일의 이름을 config.yml 로 바꾸고 이를 애플리케이션 바이너리와 동일한 경로에 배치합니다. 환경과 사용 사례에 맞게 내용을 수정하세요.

짓다

Eternal은 현재 CUDA(nVidia GPU 필요) 또는 MacOS/Metal(M 시리즈 Mac 필요)을 사용하여 Linux 또는 Windows WSL에서의 빌드를 지원합니다.

애플리케이션을 빌드하려면 다음 안내를 따르세요.

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

빌드 프로세스에 문제가 있는 경우 문제를 제출해 주세요.

문제 해결

초기 애플리케이션 실행 전에 새로운 Python 3.10 conda 환경과 가상 환경을 생성하는 것이 좋습니다. 이렇게 하면 error: externally-managed-environment 와 같은 필수 패키지 설치와 관련된 오류 메시지가 표시되지 않습니다.

Eternal이 시작되지 않으면 다음 명령을 실행하여 새 Conda 환경 및 Python venv를 구성하십시오.

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

참고: 포함된 .config.yml 이름을 config.yml 로 바꾸고, 환경에 대한 설정을 수정하고, Eternal 바이너리와 동일한 경로에 파일을 저장해야 합니다.

부인 성명

이 README는 Eternal 애플리케이션에 대한 높은 수준의 개요입니다. 자세한 설정 지침과 기능, 종속성, 구성의 전체 목록은 실제 애플리케이션 문서에서 참조해야 합니다.