mergeui
v0.1.0
标题 | 表情符号 | 颜色来自 | 颜色到 | 开发工具包 | sdk_版本 | python_版本 | 应用程序文件 | 全宽 | 标头 | 禁用嵌入 | 启动持续时间超时 | 执照 | 语言 | 数据集 | 标签 | 简短描述 | 缩略图 | 固定的 | ||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
合并用户界面 | ? | 紫色的 | 粉色的 | 渐变 | 4.31.5 | 3.9 | mergeui/web/gradio_app/main.py | 真的 | 小型的 | 错误的 | 15m | 阿帕奇-2.0 |
|
|
| Hugging Face Hub 中合并法学硕士的一体化 UI | https://raw.githubusercontent.com/nskio/mergeui/main/static/brand/banner.svg | 真的 |
MergeUI 是一个开源项目,旨在提供一个用户友好的界面,用于发现和分析来自 Hugging Face Hub 的合并大型语言模型(合并 LLM)。它特别关注使用 MergeKit 合并的模型。
要在本地运行该项目,您需要安装以下内容:
安装了要求后,您可以通过运行以下命令来设置项目:
poetry install
安装依赖项后,请确保通过创建.env
文件来设置环境变量
cp .env.example .env
提示
在 settings.py 文件中查找有关环境变量的更多信息。
接下来,我们需要使用 Docker Compose 启动数据库和 Redis:
docker compose up -d
提示
完成后运行docker compose down
以停止这些服务。
笔记
该项目使用poetry
和Poe the Poet
插件来运行命令,运行poe
可以查看所有可用的命令。
设置完成后,我们需要对 Hugging Face Hub 中的模型进行索引并将其存储在数据库中。
对于索引模型,我们使用 RQ:
poe worker
poe index
rq-dashboard
重要的
索引过程需要几分钟才能完成,具体取决于您的资源、工作人员数量和可用merge
模型的数量。
笔记
使用 64 名工作人员大约需要 6 分钟来索引约 12k 个模型和约 51k 个关系的图表。
索引过程完成后,我们可以使用以下命令启动我们的应用程序:
uvicorn mergeui.main:app --port 8000 --log-level trace
警告
将环境变量GRADIO_APP_DISABLED
设置为true
以禁用 Gradio 应用程序。
uvicorn mergeui.main:app --reload --port 8000 --log-level debug
gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading
poe bokeh_dev
本项目使用pytest进行测试,可以使用以下命令运行测试:
poe test
MergeUI 是一个新项目,任何贡献都会有所作为!无论您发现错误、有宝贵的反馈或建议,还是只是想参与其中,我们都很乐意听取您的意见!