AI Runner 是一個接口,可讓您在自己的硬體上執行開源大語言模型 (LLM) 和 AI 影像產生器 (Stable Diffusion)。
它的設計易於使用,具有簡單直覺的介面,使您無需 Web 伺服器或雲端服務即可運行 AI 模型。
它針對速度和效率進行了優化,讓您可以生成圖像並與聊天機器人即時對話。
AI Runner 是一個 AI 接口,可讓您在自己的硬體上執行開源大語言模型 (LLM) 和 AI 影像產生器 (Stable Diffusion)。
特徵 | 描述 |
---|---|
法學碩士和溝通 | |
基於語音的聊天機器人對話 | 使用您的聲音與聊天機器人進行對話 |
文字轉語音 | 將文字轉換為語音 |
語音轉文字 | 將語音轉換為文字 |
與法學碩士的客製化聊天機器人 | 使用大型語言模型產生文本 |
本地文件和網站上的 RAG | 使用法學碩士與您的本地文件進行交互 |
?影像生成 | |
穩定擴散(所有版本) | 使用穩定擴散產生影像 |
繪圖工具 | 將草圖變成藝術 |
文字轉圖像 | 從文字描述生成圖像 |
影像到影像 | 根據輸入影像產生影像 |
?️圖像處理 | |
修復和修復 | 修改圖像的某些部分,同時保持上下文 |
控制網 | 透過附加輸入控制影像生成 |
洛拉 | 使用 LoRA 高效能微調模型 |
文字嵌入 | 使用文字嵌入進行圖像生成控制 |
影像濾鏡 | 模糊、底片顆粒、像素藝術等 |
?公用事業 | |
本地離線運行 | 在您自己的硬體上運行,無需互聯網 |
快速生成 | 在約 2 秒內產生影像(RTX 2080s) |
一次運行多個模型 | 同時使用多個模型 |
深色模式 | 在弱光環境下舒適的觀賞體驗 |
無限滾動畫布 | 無縫捲動生成的圖像 |
NSFW 過濾器切換 | 幫助控制 NSFW 內容的可見性 |
NSFW 護欄開關 | 幫助防止產生 LLM 有害內容 |
完全可定制 | 輕鬆調整所有參數 |
快速載入時間,響應式介面 | 享受流暢且反應迅速的使用者體驗 |
純蟒蛇 | 不依賴網路伺服器,純Python實現 |
有多種方法可以開始使用 AI Runner,例如打包、從原始碼和作為庫。
詳細的打包和安裝說明可以在 wiki 中找到。
安裝
pip install airunner
跑步
airunner
AI Runner 安裝了運行具有文字轉語音和語音到文字功能的聊天機器人所需的所有模型,以及穩定擴散所需的核心模型。但是,您必須提供自己的藝術生成器模型。
您可以從 Huggingface.co 或 civita.com 下載模型。
支持的穩定擴散模型有:
模型必須放置在airunner
目錄中各自的目錄中。
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
運行所有單元測試
python -m unittest discover -s src/airunner/tests
執行單一單元測試python -m unittest src/airunner/tests/<file_name>
例子
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
儘管 AI Runner v3.0 是使用 Huggingface 庫構建的,但我們已小心地剝離了任何遙測或追蹤功能的應用程式。
只有安裝精靈需要存取互聯網才能下載所需的模型。
有關更多信息,請參閱 Darklock 和 Facehuggershield 庫。
變壓器庫的寫入存取已停用,防止它在運行時建立 Huggingface 快取目錄。
應用程式本身仍然可以存取光碟進行讀寫,但是我們限制了對使用者提供的airunner
目錄的讀寫(預設情況下該目錄位於~/.local/share/airunner
)。
所有其他訪問該光碟的嘗試都會被阻止並記錄下來以供您查看。
有關更多信息,請參閱src/security/restrict_os_access.py
。
Huggingface Hub 包含遙測和追蹤功能,這些功能已在 AI Runner 中完全停用。
本庫所採取的安全措施如下
請參閱 Facehuggershield 以了解更多資訊。