重要的
此儲存庫已被棄用,僅用於啟動最高版本v0.12.0-beta
Instill Core 項目,其中 Instill 模型版本對應於此已棄用儲存庫中的v0.9.0-alpha
。檢查 instill-ai/instill-core 儲存庫中最新的 Instill Core 專案。
⚗️ Instill Model ,或簡稱Model ,是 Instill Core 專案的一個組成部分。它是一個先進的 ModelOps/LLMOps 平台,專注於幫助用戶無縫導入、服務、微調和監控機器學習 (ML) 模型,以實現持續優化。
macOS 或 Linux - Instill Model 可在 macOS 或 Linux 上運行,但尚未支援 Windows。
Docker 和 Docker Compose - Instill Model 使用 Docker Compose(具體來說, Compose V2
和Compose specification
)在本地運行所有服務。在使用 Instill Model 之前,請先安裝最新且穩定的 Docker 和 Docker Compose。
yq
> v4.x
。請遵循安裝指南。
(可選)NVIDIA Container Toolkit - 要在 Instill Model 中啟用 GPU 支持,請參閱 NVIDIA Cloud Native 文件來安裝 NVIDIA Container Toolkit。如果您想專門為 Instill Model 指派 GPU,您可以設定環境變數NVIDIA_VISIBLE_DEVICES
。例如, NVIDIA_VISIBLE_DEVICES=0,1
將使triton-server
特別使用 GPU 裝置 id 0
和1
。預設情況下, NVIDIA_VISIBLE_DEVICES
設定為all
以使用電腦上的所有可用 GPU。
注意模型後端 (~2GB) 和 Triton 推理伺服器 (~23GB) 的映像可能需要一段時間才能拉取,但這應該是第一次設定時的一次性工作。
使用穩定發布版本
執行下列命令來提取包含所有要啟動的依賴項的預先建置映像:
$ git clone -b v0.10.0-alpha https://github.com/instill-ai/deprecated-model.git && cd deprecated-model
# Launch all services
$ make all
就是這樣!一旦所有服務都處於健康狀態,UI 就可以在 http://localhost:3000 上運作。請在文件中尋找預設登入憑證。
若要關閉所有正在執行的服務:
$ make down
瀏覽文件以發現所有可用的部署選項。
我們整理了一份可供使用的模型清單。這些預先訓練的模型來自不同的來源,並由我們的團隊進行訓練和部署。想貢獻新模型嗎?請創建一個問題,我們很樂意將其添加到列表中? 。
模型 | 任務 | 來源 | 框架 | 中央處理器 | 圖形處理器 |
---|---|---|---|---|---|
行動網路v2 | 影像分類 | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
視覺轉換器 (ViT) | 影像分類 | 抱臉 | 奧恩克斯 | ✅ | |
YOLOv4 | 物體偵測 | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
YOLOv7 | 物體偵測 | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
YOLOv7 W6 姿勢 | 關鍵點偵測 | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
PSNet + EasyOCR | 光學字元辨識 (OCR) | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
掩模 RCNN | 實例分割 | GitHub-DVC | 火炬 | ✅ | ✅ |
基於MobileNetV3的Lite R-ASPP | 語意分割 | GitHub-DVC | 奧恩克斯 | ✅ | ✅ |
穩定擴散 | 文字轉圖像 | GitHub-DVC、本機 CPU、本機 GPU | 奧恩克斯 | ✅ | ✅ |
穩定擴散XL | 文字轉圖像 | GitHub-DVC | 火炬 | ✅ | |
控制網-Canny | 影像到影像 | GitHub-DVC | 火炬 | ✅ | |
威震天 GPT2 | 文字生成 | GitHub-DVC | 更快的變壓器 | ✅ | |
駱駝2 | 文字生成 | GitHub-DVC | 法學碩士、PyTorch | ✅ | ✅ |
程式碼駱駝 | 文字生成 | GitHub-DVC | 法學碩士 | ✅ | |
駱駝2聊天 | 文字產生聊天 | GitHub-DVC | 法學碩士 | ✅ | |
MosaicML MPT | 文字產生聊天 | GitHub-DVC | 法學碩士 | ✅ | |
米斯特拉爾 | 文字產生聊天 | GitHub-DVC | 法學碩士 | ✅ | |
Zephyr-7b | 文字產生聊天 | GitHub-DVC | 火炬 | ✅ | ✅ |
拉瓦 | 視覺問答 | GitHub-DVC | 火炬 | ✅ |
注意:表中的GitHub-DVC
來源表示將模型從使用 DVC 管理大檔案的 GitHub 儲存庫匯入到 Instill Model 中。
有關許可信息,請參閱 LICENSE 文件。