mergeui

標題	表情符號	顏色來自	顏色到	開發工具包	sdk_版本	python_版本	應用程式檔案	全寬	標頭	禁用嵌入	啟動持續時間逾時	執照	語言	數據集	標籤	簡短描述	縮圖	固定的
合併使用者介面	？	紫色的	粉紅色的	漸變	4.31.5	3.9	mergeui/web/gradio_app/main.py	真的	小型的	錯誤的	15m	阿帕契-2.0	zh	open-llm-排行榜/結果	合併 排行榜 合併工具包 惰性合併工具包	Hugging Face Hub 中合併法學碩士的一體化 UI	https://raw.githubusercontent.com/nskio/mergeui/main/static/brand/banner.svg	真的

Hugging Face 中合併法學碩士的一體化 UI

MergeUI 是一個開源項目，旨在提供一個用戶友好的介面，用於發現和分析來自 Hugging Face Hub 的合併大型語言模型（合併 LLM）。它特別關注使用 MergeKit 合併的模型。

• 嘗試一下
• ? ‍ GitHub 儲存庫
• ？擁抱臉部空間

發展

要求

要在本地運行該項目，您需要安裝以下內容：

• Python 3.9+
• 詩歌1.8+
• 圖形視覺化
• Docker 與 Docker Compose

設定

安裝了要求後，您可以透過執行以下命令來設定專案：

poetry install

安裝依賴項後，請確保透過建立.env檔案來設定環境變量

cp .env.example .env

提示

在 settings.py 檔案中查找有關環境變數的更多資訊。

接下來，我們需要使用 Docker Compose 啟動資料庫和 Redis：

docker compose up -d

提示

完成後執行docker compose down以停止這些服務。

跑步

筆記

該專案使用poetry和Poe the Poet插件來運行命令，運行poe可以查看所有可用的命令。

設定完成後，我們需要對 Hugging Face Hub 中的模型進行索引並將其儲存在資料庫中。

索引

對於索引模型，我們使用 RQ：

• 首先，我們需要透過在單獨的終端選項卡中執行以下命令來啟動一些工作程序：

  poe worker

• 接下來，我們可以透過執行以下命令來啟動索引程序：

  poe index

• 要監控索引過程，我們可以透過執行以下命令來使用 RQ 儀表板：

  rq-dashboard

重要的

索引過程需要幾分鐘才能完成，具體取決於您的資源、工作人員數量和可用merge模型的數量。

筆記

使用 64 名工作人員大約需要 6 分鐘來索引約 12k 個模型和約 51k 個關係的圖表。

視覺化

索引過程完成後，我們可以使用以下命令啟動我們的應用程式：

具有 Gradio 應用程式的 FastAPI 伺服器

uvicorn mergeui.main:app --port 8000 --log-level trace

僅限 FastAPI（開發模式）

警告

將環境變數GRADIO_APP_DISABLED設為true以停用 Gradio 應用程式。

uvicorn mergeui.main:app --reload --port 8000 --log-level debug

僅Gradio應用程式（開發模式）

gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading 

Bokeh 伺服器（開發模式）

poe bokeh_dev

測試

本專案使用pytest進行測試，可以使用以下命令執行測試：

poe test 

貢獻

MergeUI 是一個新項目，任何貢獻都會有所作為！無論您發現錯誤、有寶貴的回饋或建議，還是只是想參與其中，我們都很樂意聽取您的意見！