jetson examples

傑森範例

該儲存庫提供了使用單一命令在 NVIDIA Jetson 裝置上運行 AI 模型和應用程式的範例。

這個倉庫建立在 jetson-containers、ultralytics 和其他優秀項目的基礎上。

特徵

• 輕鬆部署：在 Jetson 設備上以一條線部署最先進的 AI 模型。
• 多功能範例：支援文字生成、圖像生成、電腦視覺等。
• ⚡針對 Jetson 進行了最佳化：利用 Nvidia Jetson 硬體實現高效能。

安裝

若要安裝軟體包，請執行：

pip3 install jetson-examples

筆記：

• 更多安裝方式請看這裡
• 若要升級至最新版本，請使用： pip3 install jetson-examples --upgrade 。

快速入門

要運行 LLaVA 並與其聊天，請執行：

reComputer run llava

範例列表

以下是一些可以運行的範例：

例子	類型	模型/資料大小	Docker 映像大小	命令
？ Ultralytics-yolo	電腦視覺		15.4GB	reComputer run ultralytics-yolo
？深度即時攝影機	換臉	0.5GB	20GB	reComputer run deep-live-cam
？駱駝工廠	法學碩士		13.5GB	reComputer run llama-factory
？舒適使用者介面	電腦視覺		20GB	reComputer run comfyui
深度-任意-V2	電腦視覺		15GB	reComputer run depth-anything-v2
深度-任何東西	電腦視覺		12.9GB	reComputer run depth-anything
約洛夫10	電腦視覺	7.2M	5.74GB	reComputer run yolov10
駱駝3	課文（法學碩士）	4.9GB	10.5GB	reComputer run llama3
奧拉馬	推理伺服器	*	10.5GB	reComputer run ollama
拉瓦	文字+視覺（VLM）	13GB	14.4GB	reComputer run llava
現場直播	文字+視覺（VLM）	13GB	20.3GB	reComputer run live-llava
穩定擴散-webui	影像生成	3.97G	7.3GB	reComputer run stable-diffusion-webui
奈米貓頭鷹	視覺變形金剛(ViT)	613MB	15.1GB	reComputer run nanoowl
奈米資料庫	向量資料庫	76GB	7.0GB	reComputer run nanodb
耳語	聲音的	1.5GB	6.0GB	reComputer run whisper
Yolov8-軌道檢查	電腦視覺	6M	13.8GB	reComputer run yolov8-rail-inspection
TensorFlow MoveNet 雷霆	電腦視覺		7.7GB	reComputer run MoveNet-Thunder
Parler-TTS mini：expresso	聲音的		6.9GB	reComputer run parler-tts

注意：您應該有足夠的空間來運行範例，例如LLaVA ，總共至少27.4GB

更多範例可以參考examples.md

呼籲貢獻者加入我們！

如何與我們合作？

想要添加您自己的範例嗎？查看開髮指南。

我們歡迎為改進 jetson-example 做出貢獻！如果您有想要分享的範例，請提交拉取請求。感謝我們所有的貢獻者！

此公開徵集已在我們的貢獻者項目中列出。如果這是您第一次加入我們，請按此處了解該專案的運作方式。我們依照以下步驟操作：

• 作業：我們提供各種作業來增強 wiki 內容，每項作業都有詳細的描述。
• 提交：貢獻者可以在完成作業後透過 Pull Request 提交他們的內容。
• 審核：維護者將合併提交並記錄貢獻。

貢獻者將獲得 250 美元的現金獎金作為感謝。

如有任何問題或更多信息，請隨時透過 GitHub 問題頁面或聯繫[email protected]

待辦事項清單

• 偵測主機環境並安裝我們需要的東西
• 所有類型jetson支援檢查列表
• 試試噴射背包 6.0
• 運行前檢查磁碟空間是否足夠
• 允許設定一些配置，例如BASE_PATH
• 支持jetson-container更新
• 更好的表格來顯示範例的差異

執照

該項目已獲得 MIT 許可證的許可。

資源

• https://github.com/dusty-nv/jetson-containers
• https://www.jetson-ai-lab.com/
• https://www.ultralytics.com/