[2024年9月] 10.0版本已经完成。 SDK、edgeai-tidl-tools 和 Edgeai-tensorlab 已更新。
更多详细信息请参见发行说明。
另请参阅 SDK 发行说明、edgeai-tidl-tools 发行说明和 Edgeai-tensorlab 发行说明
我们的文档登陆页面如下:
https://www.ti.com/edgeai:总结 TI 边缘 AI 软件/硬件产品的技术页面
https://github.com/TexasInstruments/edgeai:开发人员了解整体软件和工具产品的登陆页面
我们的存储库已重组:请导航至下表以了解多个存储库现在如何打包在 Edgeai-tensorlab 内
由于计算要求很高,深度学习模型的嵌入式推理非常具有挑战性。 TI 的 Edge AI 综合软件产品有助于优化和加速 TI 嵌入式设备的推理。它支持跨基于 Cortex-A 的 MPU、TI 最新一代 C7x DSP 和 DNN 加速器 (MMA) 的 DNN 异构执行。
TI 的 Edge AI 解决方案通过提供丰富的工具和优化的库,简化了 DNN 开发和部署的整个产品生命周期。
下图提供了相关工具的高级摘要:
下表提供了每个工具的详细说明:
类别 | 工具/链接 | 目的 | 不是 |
---|---|---|---|
推理(和编译)工具 | Edgeai-tidl-工具 | 熟悉模型编译和推理流程 - 训练后量化 - 开箱即用示例模型的基准延迟(10+) - 编译用户/自定义模型以进行部署 - 使用文件库输入和输出在 X86_PC 或 TI SOC 上推断编译模型 - Docker 方便开发环境设置 | - 不支持使用 TIDL 和标准数据集对模型精度进行基准测试,例如 - 使用 MS COCO 数据集对对象检测模型进行精度基准测试。请参阅edgeai-benchmark 进行同样的操作。 - 不支持基于摄像头、显示和推理的端到端管道开发。使用方法请参考Edge AI SDK |
选型工具 | Edge AI Studio:模型选择工具 | 了解模型的性能统计数据,例如 FPS、延迟、准确性和 DDR 带宽。从 TI Model Zoo 中查找最能满足您的 TI 处理器性能和精度目标的模型。 | |
训练编译集成环境 | Edge AI Studio:模型分析器 | 基于浏览器的环境允许使用 TI EVM 场进行模型评估 - 允许模型评估,无需在用户端进行软件/硬件设置 - 用户可以从 TI EVM 农场预留 EVM 并使用 jupyter 笔记本执行模型评估 -模型选择工具:为 TI 器件提供合适的模型架构 | - 不支持基于摄像头、显示和推理的端到端管道开发。使用方法请参考Edge AI SDK |
同上 | Edge AI Studio:模型作曲家 | 基于 GUI 的集成环境,用于数据集捕获、注释、培训、编译,并可连接到 TI 开发板 - 携带/捕获您自己的数据、注释、选择模型、执行训练并生成用于在 SDK 上部署的工件 - 实时预览以获取快速反馈 | - 不支持自带模型工作流程 |
边缘人工智能软件开发套件 | 设备和 SDK | SDK 用于开发带有摄像头、推理和显示的端到端 AI 管道 - 不同的推理运行时:TFLiteRT、ONNXRT、NEO AI DLR、TIDL-RT - 框架:openVX、gstreamer - 设备驱动程序:相机、显示器、网络 - 操作系统:Linux、RTOS - 可能还有其他软件模块:编解码器、OpenCV…… |
类别 | 工具/链接 | 目的 | 不是 |
---|---|---|---|
Model Zoo、模型训练、编译/基准测试及相关工具 | 边缘张量实验室 | 提供模型训练软件、预训练模型和文档以及编译/基准脚本的集合。包括edgeai-modelzoo、edgeai-benchmark、edgeai-modeloptimization、edgeai-modelmaker、edgeai-torchvision、edgeai-mmdetection等存储库。 |
自带模型 (BYOM) 工作流程:
训练您自己的模型 (TYOM) 工作流程:
自带数据 (BYOD) 工作流程:
技术文档可以在每个存储库的文档中找到。这里我们收集了一系列技术报告和教程,对各种主题进行了高级概述。
Edgeai-tensorlab 中的边缘 AI 技术报告
阅读我们的一些技术出版物
Edge AI Studio 的问题跟踪器列在其登陆页面中。
TIDL 的问题跟踪器:请包含标签TIDL (当您创建新问题时,页面底部有一个用于输入标签的空间)。
Edge AI SDK 的问题跟踪器请包含标签EDGEAI (当您创建新问题时,页面底部有一个用于输入标签的空间)。
ModelZoo、模型基准和深度神经网络训练软件的问题跟踪器:请包含标签MODELZOO (当您创建新问题时,页面底部有一个用于输入标签的空间)。
请参阅 LICENSE 文件以获取有关此登陆存储库可用的许可证的更多信息。每个存储库的 LICENSE 文件都位于该存储库内。