AI Runner 是一个允许您在自己的硬件上运行开源大型语言模型 (LLM) 和 AI 图像生成器 (Stable Diffusion) 的界面。
它的设计易于使用,具有简单直观的界面,使您无需 Web 服务器或云服务即可运行 AI 模型。
它针对速度和效率进行了优化,允许您生成图像并与聊天机器人实时对话。
AI Runner 是一个 AI 接口,允许您在自己的硬件上运行开源大语言模型 (LLM) 和 AI 图像生成器 (Stable Diffusion)。
特征 | 描述 |
---|---|
法学硕士和沟通 | |
基于语音的聊天机器人对话 | 使用您的声音与聊天机器人进行对话 |
文字转语音 | 将文本转换为语音 |
语音转文字 | 将语音转换为文本 |
与法学硕士的可定制聊天机器人 | 使用大型语言模型生成文本 |
本地文档和网站上的 RAG | 使用法学硕士与您的本地文档进行交互 |
?图像生成 | |
稳定扩散(所有版本) | 使用稳定扩散生成图像 |
绘图工具 | 将草图变成艺术 |
文本转图像 | 从文本描述生成图像 |
图像到图像 | 根据输入图像生成图像 |
?️图像处理 | |
修复和修复 | 修改图像的某些部分,同时保持上下文 |
控制网 | 通过附加输入控制图像生成 |
洛拉 | 使用 LoRA 高效微调模型 |
文本嵌入 | 使用文本嵌入进行图像生成控制 |
图像滤镜 | 模糊、胶片颗粒、像素艺术等 |
?公用事业 | |
本地离线运行 | 在您自己的硬件上运行,无需互联网 |
快速生成 | 在约 2 秒内生成图像(RTX 2080s) |
一次运行多个模型 | 同时使用多个模型 |
深色模式 | 弱光环境下舒适的观看体验 |
无限滚动画布 | 无缝滚动生成的图像 |
NSFW 过滤器切换 | 帮助控制 NSFW 内容的可见性 |
NSFW 护栏开关 | 帮助防止产生 LLM 有害内容 |
完全可定制 | 轻松调整所有参数 |
快速加载时间,响应式界面 | 享受流畅且响应迅速的用户体验 |
纯蟒蛇 | 不依赖网络服务器,纯Python实现 |
有多种方法可以开始使用 AI Runner,例如打包、从源代码和作为库。
详细的打包和安装说明可以在 wiki 中找到。
安装
pip install airunner
跑步
airunner
AI Runner 安装了运行具有文本到语音和语音到文本功能的聊天机器人所需的所有模型,以及稳定扩散所需的核心模型。但是,您必须提供自己的艺术生成器模型。
您可以从 Huggingface.co 或 civita.com 下载模型。
支持的稳定扩散模型有:
模型必须放置在airunner
目录中各自的目录中。
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
运行所有单元测试
python -m unittest discover -s src/airunner/tests
运行单个单元测试python -m unittest src/airunner/tests/<file_name>
例子
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
尽管 AI Runner v3.0 是使用 Huggingface 库构建的,但我们已小心地剥离了任何遥测或跟踪功能的应用程序。
只有安装向导需要访问互联网才能下载所需的模型。
有关更多信息,请参阅 Darklock 和 Facehuggershield 库。
变压器库的写访问已被禁用,防止它在运行时创建 Huggingface 缓存目录。
应用程序本身仍然可以访问光盘进行读写,但是我们限制了对用户提供的airunner
目录的读写(默认情况下该目录位于~/.local/share/airunner
)。
所有其他访问该光盘的尝试都会被阻止并记录下来以供您查看。
有关更多信息,请参阅src/security/restrict_os_access.py
。
Huggingface Hub 包含遥测和跟踪功能,这些功能已在 AI Runner 中完全禁用。
本库采取的安全措施如下
请参阅 Facehuggershield 了解更多信息。