重要的
此存储库已被弃用,仅用于启动最高版本v0.12.0-beta
Instill Core 项目,其中 Instill 模型版本对应于此已弃用存储库中的v0.9.0-alpha
。检查 instill-ai/instill-core 存储库中最新的 Instill Core 项目。
⚗️ Instill Model ,或简称Model ,是 Instill Core 项目的一个组成部分。它是一个先进的 ModelOps/LLMOps 平台,专注于让用户能够无缝导入、服务、微调和监控机器学习 (ML) 模型,以实现持续优化。
macOS 或 Linux - Instill Model 可在 macOS 或 Linux 上运行,但尚不支持 Windows。
Docker 和 Docker Compose - Instill Model 使用 Docker Compose(具体来说, Compose V2
和Compose specification
)在本地运行所有服务。在使用 Instill Model 之前,请安装最新稳定的 Docker 和 Docker Compose。
yq
> v4.x
。请遵循安装指南。
(可选)NVIDIA Container Toolkit - 要在 Instill Model 中启用 GPU 支持,请参阅 NVIDIA Cloud Native 文档来安装 NVIDIA Container Toolkit。如果您想专门为 Instill Model 分配 GPU,您可以设置环境变量NVIDIA_VISIBLE_DEVICES
。例如, NVIDIA_VISIBLE_DEVICES=0,1
将使triton-server
特别使用 GPU 设备 id 0
和1
。默认情况下, NVIDIA_VISIBLE_DEVICES
设置为all
以使用计算机上的所有可用 GPU。
注意模型后端 (~2GB) 和 Triton 推理服务器 (~23GB) 的映像可能需要一段时间才能拉取,但这应该是第一次设置时的一次性工作。
使用稳定发布版本
执行以下命令来提取包含所有要启动的依赖项的预构建映像:
$ git clone -b v0.10.0-alpha https://github.com/instill-ai/deprecated-model.git && cd deprecated-model
# Launch all services
$ make all
就是这样!一旦所有服务都处于健康状态,UI 就可以在 http://localhost:3000 上运行。请在文档中查找默认登录凭据。
要关闭所有正在运行的服务:
$ make down
浏览文档以发现所有可用的部署选项。
我们整理了一份可供使用的模型列表。这些预先训练的模型来自不同的来源,并由我们的团队进行训练和部署。想贡献一个新模型吗?请创建一个问题,我们很乐意将其添加到列表中?。
模型 | 任务 | 来源 | 框架 | 中央处理器 | 图形处理器 |
---|---|---|---|---|---|
移动网络v2 | 图像分类 | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
视觉转换器 (ViT) | 图像分类 | 抱脸 | 奥恩克斯 | ✅ | |
YOLOv4 | 物体检测 | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
YOLOv7 | 物体检测 | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
YOLOv7 W6 姿势 | 关键点检测 | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
PSNet + EasyOCR | 光学字符识别 (OCR) | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
掩模 RCNN | 实例分割 | GitHub-DVC | 火炬 | ✅ | ✅ |
基于MobileNetV3的Lite R-ASPP | 语义分割 | GitHub-DVC | 奥恩克斯 | ✅ | ✅ |
稳定扩散 | 文字转图像 | GitHub-DVC、本地 CPU、本地 GPU | 奥恩克斯 | ✅ | ✅ |
稳定扩散XL | 文字转图像 | GitHub-DVC | 火炬 | ✅ | |
控制网-Canny | 图像到图像 | GitHub-DVC | 火炬 | ✅ | |
威震天 GPT2 | 文本生成 | GitHub-DVC | 更快的变压器 | ✅ | |
骆驼2 | 文本生成 | GitHub-DVC | 法学硕士、PyTorch | ✅ | ✅ |
代码骆驼 | 文本生成 | GitHub-DVC | 法学硕士 | ✅ | |
骆驼2聊天 | 文本生成聊天 | GitHub-DVC | 法学硕士 | ✅ | |
MosaicML MPT | 文本生成聊天 | GitHub-DVC | 法学硕士 | ✅ | |
米斯特拉尔 | 文本生成聊天 | GitHub-DVC | 法学硕士 | ✅ | |
Zephyr-7b | 文本生成聊天 | GitHub-DVC | 火炬 | ✅ | ✅ |
拉瓦 | 视觉问答 | GitHub-DVC | 火炬 | ✅ |
注意:表中的GitHub-DVC
源表示将模型从使用 DVC 管理大文件的 GitHub 存储库导入到 Instill Model 中。
有关许可信息,请参阅 LICENSE 文件。