ワンディフ

その他のソースコード

1.2.0(SD3, Latte and Kolors acceleratoin)

ダウンロード

|ドキュメント|コミュニティ|貢献|不和|

onediff は、すぐに使用できる拡散モデル用の加速ライブラリであり、以下を提供します。

一般的な UI/ライブラリ ( HF ディフューザーやComfyUIなど) のためのすぐに使えるアクセラレーション
PyTorch コードコンパイルツールと拡散モデル用に強力に最適化されたGPU カーネル

ニュース

[2024/07/23] Kolors の最大 1.7 倍の高速化: Kolors 高速化レポート
[2024/06/18] DiT モデルの高速化: SD3 高速化レポート、PixArt 高速化レポート、Latte 高速化レポート
[2024/04/13] OneDiff 1.0 リリース（1行のコードでSD&SVDを高速化）
[2024/01/12] OneDiff DeepCache + Int8 で安定したビデオの普及を 3 倍高速化
[2023/12/19] DeepCache と OneDiff で SDXL を 3 倍高速化

雇用

募集中です！ SiliconFlow で onediff に取り組むことに興味がある場合は、北京 (清華大学の近く) でインターンとエンジニアを募集しています。

オープンソースソフトウェアに多大な貢献をしており、リモートワークに興味がある場合は、電子メールのタイトルにonediffを付けて、 [email protected]までご連絡ください。

ドキュメント
- HF ディフューザーおよび ComfyUI と併用
- 性能比較
  - SDXL E2E 時間
  - SVD E2E 時間
- 品質評価
- コミュニティとサポート
- インストール
  - 0. OSとGPUの互換性
  - 1. トーチとディフューザーを取り付ける
  - 2. コンパイラバックエンドをインストールする
    - ネクスフォート
    - ワンフロー
  - 3. onediff をインストールする
ワンディフについてさらに詳しく
- 建築
- 特徴
- 最先端モデルの高速化
- 本番環境の高速化
  - PyTorch モジュールのコンパイル
  - 新しい入力形状のコンパイル時間を回避する
  - オンラインで提供するためのコンパイル時間を回避する
  - 分散実行
- OneDiff エンタープライズソリューション

ドキュメント

onediff は「拡散モデルを高速化する1行のコード」の略称です。

HF ディフューザーおよび ComfyUI と併用

HF ディフューザー用の onediff ?
ComfyUI の onediff
Stable Diffusion Web UI 用の onediff

性能比較

SDXL E2E 時間

モデルの安定性ai/stable-diffusion-xl-base-1.0;
画像サイズ 1024*1024、バッチサイズ 1、ステップ 30。
NVIDIA A100 80G SXM4;

SVD E2E 時間

モデルの安定性ai/stable-video-diffusion-img2vid-xt;
画像サイズ 576*1024、バッチサイズ 1、ステップ 25、デコーダチャンクサイズ 5。
NVIDIA A100 80G SXM4;

2024 年 2 月 29 日の時点では TensorRT で SVD を実行する方法がないことに注意してください。

品質評価

また、アクセラレーション後の生成の品質をベンチマークするためのリポジトリ、odeval も維持しています。

コミュニティとサポート

問題を作成する
Discord でチャット:
コミュニティとフィードバック

インストール

0. OSとGPUの互換性

Linux
- Windows 上で onediff を使用する場合は、WSL で使用してください。
- WSL2 に onediff をインストールするためのガイド。
NVIDIA GPU
- Nvidia GPUとの互換性。

1. トーチとディフューザーを取り付ける

注: ディフューザーまたはトランスに必要な最新バージョンを選択できます。

 python3 -m pip install "torch" "transformers==4.27.1" "diffusers[torch]==0.19.3"

2. コンパイラバックエンドをインストールする

OneFlow と Nexfort のどちらを選択するかを検討する場合、どちらか一方はオプションであり、必要なのは一方だけです。

DiT 構造モデルまたは H100 デバイスの場合は、Nexfort を使用することをお勧めします。
それ以外の場合はすべて、OneFlow を使用することをお勧めします。 OneFlow 内の最適化は、将来的には段階的に Nexfort に移行する予定であることに注意してください。

ネクスフォート

Nexfort のインストールはオプションです。 Nexfortの詳しい紹介はこちらです。

python3 -m  pip install -U torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 torchao==0.1
python3 -m  pip install -U nexfort

ワンフロー

OneFlow のインストールはオプションです。

注: oneFlow は onediff 用に頻繁に更新されているため、以下のリンクから OneFlow をインストールしてください。

CUDA 11.8

NA/EUユーザー向け

python3 -m pip install -U --pre oneflow -f https://github.com/siliconflow/oneflow_releases/releases/expanded_assets/community_cu118

CNユーザー向け

python3 -m pip install -U --pre oneflow -f https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu118

クリックして、他の CUDA バージョンの OneFlow パッケージを入手します。

CUDA 12.1

NA/EUユーザー向け

python3 -m pip install -U --pre oneflow -f https://github.com/siliconflow/oneflow_releases/releases/expanded_assets/community_cu121

CNユーザー向け

python3 -m pip install -U --pre oneflow -f https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu121

CUDA 12.2

NA/EUユーザー向け

python3 -m pip install -U --pre oneflow -f https://github.com/siliconflow/oneflow_releases/releases/expanded_assets/community_cu122

CNユーザー向け

python3 -m pip install -U --pre oneflow -f https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu122

3. onediff をインストールする

PyPIから

 python3 -m pip install --pre onediff

ソースから

 git clone https://github.com/siliconflow/onediff.git

 cd onediff && python3 -m pip install -e .

または、開発用にインストールします。

 # install for dev
cd onediff && python3 -m pip install -e '.[dev]'

# code formatting and linting
pip3 install pre-commit
pre-commit install
pre-commit run --all-files

注: ComfyUI/StableDiffusion-WebUI のプラグインを利用する場合は、PyPI ではなくソースから OneDiff をインストールすることを強くお勧めします。関連するコードをこれらの UI/Lib の拡張フォルダーに手動でコピー (またはソフトリンクを作成) する必要があるため、これが必要です。