AI Runner は、オープンソースの大規模言語モデル (LLM) と AI 画像ジェネレーター (Stable Diffusion) を独自のハードウェア上で実行できるようにするインターフェイスです。
使いやすいように設計されており、Web サーバーやクラウド サービスを必要とせずに AI モデルを実行できるシンプルで直感的なインターフェイスを備えています。
速度と効率が最適化されているため、画像を生成し、チャットボットとリアルタイムで会話できるようになります。
AI Runner は、オープンソースの大規模言語モデル (LLM) と AI 画像ジェネレーター (安定拡散) を独自のハードウェア上で実行できるようにする AI インターフェイスです。
特徴 | 説明 |
---|---|
LLM とコミュニケーション | |
音声ベースのチャットボットの会話 | 音声を使用してチャットボットと会話する |
テキスト読み上げ | テキストを音声に変換する |
音声からテキストへの変換 | 音声をテキストに変換 |
LLM を使用したカスタマイズ可能なチャットボット | 大規模な言語モデルを使用してテキストを生成する |
ローカル文書およびウェブサイトの RAG | LLM を使用してローカル ドキュメントを操作する |
?画像生成 | |
安定した拡散 (すべてのバージョン) | 安定拡散を使用して画像を生成する |
描画ツール | スケッチをアートに変える |
テキストから画像へ | テキストの説明から画像を生成する |
画像から画像へ | 入力画像に基づいて画像を生成する |
⁉️画像加工 | |
インペイントとアウトペイント | コンテキストを維持しながら画像の一部を変更する |
コントロールネット | 追加入力による画像生成の制御 |
LoRA | LoRA を使用してモデルを効率的に微調整する |
テキストの埋め込み | 画像生成制御にテキスト埋め込みを使用する |
画像フィルター | ブラー、フィルムグレイン、ピクセルアートなど |
?ユーティリティ | |
オフライン、ローカルで実行 | インターネットなしで独自のハードウェアで実行 |
高速生成 | 約 2 秒で画像を生成 (RTX 2080) |
複数のモデルを一度に実行する | 複数のモデルを同時に利用する |
ダークモード | 暗い環境でも快適な視聴体験 |
無限スクロールキャンバス | 生成された画像をシームレスにスクロールします |
NSFWフィルター切り替え | NSFW コンテンツの公開範囲の制御を支援する |
NSFW ガードレールの切り替え | LLM の有害なコンテンツの生成を防止します |
完全にカスタマイズ可能 | すべてのパラメータを簡単に調整 |
高速なロード時間、応答性の高いインターフェース | スムーズで応答性の高いユーザー エクスペリエンスをお楽しみください |
ピュアパイソン | Webサーバーに依存せず、純粋なPython実装 |
AI Runner の使用を開始するには、パッケージ化、ソースから、ライブラリとしてなど、いくつかの方法があります。
詳細なパッケージ化とインストール手順については、wiki を参照してください。
インストール
pip install airunner
ランニング
airunner
AI Runner は、安定した拡散に必要なコア モデルに加えて、テキスト読み上げおよび音声変換機能を備えたチャットボットを実行するために必要なすべてのモデルをインストールします。ただし、独自のアート ジェネレーター モデルを提供する必要があります。
モデルは、Huggingface.co または civitai.com からダウンロードできます。
サポートされている安定拡散モデルは次のとおりです。
モデルは、 airunner
ディレクトリ内のそれぞれのディレクトリに配置する必要があります。
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
すべての単体テストを実行する
python -m unittest discover -s src/airunner/tests
単一の単体テストを実行しますpython -m unittest src/airunner/tests/<file_name>
例
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
AI Runner v3.0 は Huggingface ライブラリを使用して構築されていますが、アプリケーションからテレメトリ機能や追跡機能を削除するよう配慮しています。
セットアップ ウィザードのみ、必要なモデルをダウンロードするためにインターネットにアクセスする必要があります。
詳細については、Darklock ライブラリと Facehuggershield ライブラリを参照してください。
トランスフォーマー ライブラリへの書き込みアクセスが無効になっているため、実行時に ハグフェイス キャッシュ ディレクトリを作成できません。
アプリケーション自体は引き続き読み取りと書き込みのためにディスクにアクセスできますが、ユーザーが指定したairunner
ディレクトリ (デフォルトでは、これは~/.local/share/airunner
にあります) への読み取りと書き込みが制限されています。
ディスクへのその他のアクセス試行はすべてブロックされ、レビューのために記録されます。
詳細については、 src/security/restrict_os_access.py
を参照してください。
Huggingface Hub には、AI Runner では完全に無効になっているテレメトリ機能と追跡機能が含まれています。
このライブラリのセキュリティ対策は次のとおりです。
詳細については、フェイスハガーシールドを参照してください。