jetson examples

杰森示例

该存储库提供了使用单个命令在 NVIDIA Jetson 设备上运行 AI 模型和应用程序的示例。

这个仓库建立在 jetson-containers、ultralytics 和其他优秀项目的基础上。

特征

• 轻松部署：在 Jetson 设备上以一条线部署最先进的 AI 模型。
• 多功能示例：支持文本生成、图像生成、计算机视觉等。
• ⚡针对 Jetson 进行了优化：利用 Nvidia Jetson 硬件实现高效性能。

安装

要安装该软件包，请运行：

pip3 install jetson-examples

笔记：

• 更多安装方法请查看这里
• 要升级到最新版本，请使用： pip3 install jetson-examples --upgrade 。

快速入门

要运行 LLaVA 并与其聊天，请执行：

reComputer run llava

示例列表

以下是一些可以运行的示例：

例子	类型	模型/数据大小	Docker 镜像大小	命令
？ Ultralytics-yolo	计算机视觉		15.4GB	reComputer run ultralytics-yolo
？深度实时摄像头	换脸	0.5GB	20GB	reComputer run deep-live-cam
？骆驼工厂	法学硕士		13.5GB	reComputer run llama-factory
？舒适用户界面	计算机视觉		20GB	reComputer run comfyui
深度-任意-V2	计算机视觉		15GB	reComputer run depth-anything-v2
深度-任何东西	计算机视觉		12.9GB	reComputer run depth-anything
约洛夫10	计算机视觉	7.2M	5.74GB	reComputer run yolov10
骆驼3	文本（法学硕士）	4.9GB	10.5GB	reComputer run llama3
奥拉马	推理服务器	*	10.5GB	reComputer run ollama
拉瓦	文本+视觉（VLM）	13GB	14.4GB	reComputer run llava
现场直播	文本+视觉（VLM）	13GB	20.3GB	reComputer run live-llava
稳定扩散-webui	图像生成	3.97G	7.3GB	reComputer run stable-diffusion-webui
纳米猫头鹰	视觉变形金刚(ViT)	613MB	15.1GB	reComputer run nanoowl
纳米数据库	矢量数据库	76GB	7.0GB	reComputer run nanodb
耳语	声音的	1.5GB	6.0GB	reComputer run whisper
Yolov8-轨道检查	计算机视觉	6M	13.8GB	reComputer run yolov8-rail-inspection
TensorFlow MoveNet 雷霆	计算机视觉		7.7GB	reComputer run MoveNet-Thunder
Parler-TTS mini：expresso	声音的		6.9GB	reComputer run parler-tts

注意：您应该有足够的空间来运行示例，例如LLaVA ，总共至少27.4GB

更多示例可以参见examples.md

呼吁贡献者加入我们！

如何与我们合作？

想要添加您自己的示例吗？查看开发指南。

我们欢迎为改进 jetson-example 做出贡献！如果您有想要分享的示例，请提交拉取请求。感谢我们所有的贡献者！

此公开征集已在我们的贡献者项目中列出。如果这是您第一次加入我们，请单击此处了解该项目的运作方式。我们按照以下步骤操作：

• 作业：我们提供各种作业来增强 wiki 内容，每项作业都有详细的描述。
• 提交：贡献者可以在完成作业后通过 Pull Request 提交他们的内容。
• 审核：维护者将合并提交并记录贡献。

贡献者将获得 250 美元的现金奖金作为答谢。

如有任何问题或更多信息，请随时通过 GitHub 问题页面或联系[email protected]

待办事项列表

• 检测主机环境并安装我们需要的东西
• 所有类型jetson支持检查列表
• 尝试喷气背包 6.0
• 运行前检查磁盘空间是否足够
• 允许设置一些配置，例如BASE_PATH
• 支持jetson-container更新
• 更好的表格来显示示例的差异

执照

该项目已获得 MIT 许可证的许可。

资源

• https://github.com/dusty-nv/jetson-containers
• https://www.jetson-ai-lab.com/
• https://www.ultralytics.com/