タイトル | 絵文字 | 色から | 色に | SDK | SDK_バージョン | Python_バージョン | アプリファイル | 全幅 | ヘッダ | 埋め込みを無効にする | 起動時間_タイムアウト | ライセンス | 言語 | データセット | タグ | 短い説明 | サムネイル | 固定された | ||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
マージUI | ? | 紫 | ピンク | グラディオ | 4.31.5 | 3.9 | mergeui/web/gradio_app/main.py | 真実 | ミニ | 間違い | 15メートル | apache-2.0 |
|
|
| Hugging Face Hub でマージされた LLM 用のオールインワン UI | https://raw.githubusercontent.com/naskio/mergeui/main/static/brand/banner.svg | 真実 |
MergeUI は、Hugging Face Hub からマージされた大規模言語モデル (Merged LLM) を検出および分析するためのユーザーフレンドリーなインターフェイスを提供することを目的としたオープンソース プロジェクトです。特に、MergeKit を使用してマージされたモデルに焦点を当てています。
プロジェクトをローカルで実行するには、次のものをインストールする必要があります。
要件をインストールしたら、次のコマンドを実行してプロジェクトをセットアップできます。
poetry install
依存関係がインストールされたら、 .env
ファイルを作成して環境変数を設定してください。
cp .env.example .env
ヒント
環境変数の詳細については、settings.py ファイルを参照してください。
次に、Docker Compose を使用してデータベースと Redis を起動する必要があります。
docker compose up -d
ヒント
完了したら、 docker compose down
実行してこれらのサービスを停止します。
注記
このプロジェクトでは、 Poe the Poet
プラグインでpoetry
使用してコマンドを実行し、 poe
を実行して利用可能なすべてのコマンドを確認します。
セットアップが完了したら、Hugging Face Hub からモデルのインデックスを作成し、データベースに保存する必要があります。
モデルのインデックス作成には RQ を使用します。
poe worker
poe index
rq-dashboard
重要
リソース、ワーカーの数、使用可能なmerge
モデルの数に応じて、インデックス作成プロセスが完了するまでに数分かかります。
注記
64 ワーカーを使用して、約 12,000 のモデルと約 51,000 の関係のグラフにインデックスを付けるには、約 6 分かかります。
インデックス作成プロセスが完了したら、次のコマンドを使用してアプリを起動できます。
uvicorn mergeui.main:app --port 8000 --log-level trace
警告
Gradio アプリを無効にするには、環境変数GRADIO_APP_DISABLED
true
に設定します。
uvicorn mergeui.main:app --reload --port 8000 --log-level debug
gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading
poe bokeh_dev
このプロジェクトではテストに pytest を使用します。次のコマンドを使用してテストを実行できます。
poe test
MergeUI は新しいプロジェクトであり、あらゆる貢献が大きな変化をもたらすでしょう。バグを見つけた場合でも、貴重なフィードバックや提案がある場合でも、単に参加したい場合でも、ぜひご連絡をお待ちしております。