mergeui
v0.1.0
| 제목 | 이모티콘 | 색상에서 | 색상으로 | SDK | SDK_버전 | python_version | 앱_파일 | 전체 너비 | 헤더 | 비활성화_임베딩 | 시작_기간_시간 초과 | 특허 | 언어 | 데이터 세트 | 태그 | 짧은 설명 | 미리보기 이미지 | 고정된 | ||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
병합UI | ? | 보라 | 분홍색 | 그라디오 | 4.31.5 | 3.9 | mergeui/web/gradio_app/main.py | 진실 | 미니 | 거짓 | 15m | 아파치-2.0 |
|
|
| Hugging Face Hub의 병합된 LLM을 위한 올인원 UI | https://raw.githubusercontent.com/naskio/mergeui/main/static/brand/banner.svg | 진실 |
MergeUI는 Hugging Face Hub에서 병합된 대형 언어 모델(Merged LLM)을 검색하고 분석하기 위한 사용자 친화적인 인터페이스를 제공하는 것을 목표로 하는 오픈 소스 프로젝트입니다. 특히 MergeKit을 사용하여 병합된 모델에 중점을 둡니다.
프로젝트를 로컬에서 실행하려면 다음이 설치되어 있어야 합니다.
요구 사항이 설치되면 다음 명령을 실행하여 프로젝트를 설정할 수 있습니다.
poetry install 종속성이 설치되면 .env 파일을 생성하여 환경 변수를 설정해야 합니다.
cp .env.example .env팁
settings.py 파일에서 환경 변수에 대해 자세히 알아보세요.
다음으로 Docker Compose를 사용하여 데이터베이스와 Redis를 시작해야 합니다.
docker compose up -d팁
완료되면 docker compose down 실행하여 이러한 서비스를 중지하세요.
메모
이 프로젝트에서는 Poe the Poet 플러그인과 함께 poetry 사용하여 명령을 실행하고, poe 실행하여 사용 가능한 모든 명령을 확인합니다.
설정이 완료되면 Hugging Face Hub에서 모델을 인덱싱하고 데이터베이스에 저장해야 합니다.
인덱싱 모델의 경우 RQ를 사용합니다.
poe workerpoe indexrq-dashboard중요한
인덱싱 프로세스는 리소스, 작업자 수, 사용 가능한 merge 모델 수에 따라 완료하는 데 몇 분 정도 걸립니다.
메모
64개의 작업자를 사용하여 ~12,000개 모델과 ~51,000개 관계의 그래프를 색인화하는 데 약 6분이 소요됩니다.
인덱싱 프로세스가 완료되면 다음 명령을 사용하여 앱을 시작할 수 있습니다.
uvicorn mergeui.main:app --port 8000 --log-level trace경고
Gradio 앱을 비활성화하려면 환경 변수 GRADIO_APP_DISABLED true 로 설정하세요.
uvicorn mergeui.main:app --reload --port 8000 --log-level debuggradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading poe bokeh_dev이 프로젝트는 테스트를 위해 pytest를 사용하며 다음 명령을 사용하여 테스트를 실행할 수 있습니다.
poe test MergeUI는 새로운 프로젝트이며 어떤 기여라도 도움이 될 것입니다! 버그를 발견했거나, 귀중한 피드백이나 제안이 있거나, 단순히 참여를 원하시거나, 우리는 여러분의 의견을 환영합니다!
