OE文档脉络
本文档适用于使用S100计算平台的所有开发者,为您提供全方位的开发过程指导,为您能够充分了解整体的使用过程,地平线推荐您按照以下顺序进行阅读。
以下为各章节内容简述,您也可以根据需要进行对应章节的阅读。
- OE文档脉络
本章节为您准备了整体文档中相关章节的内容简介及内容跳转,以及文档的推荐阅读顺序。
- 产品简介
- 关键概念
本章节为您提供了一些常用关键概念以及一些常用到的背景知识的介绍。
- 环境部署
本章节为您介绍开发环境和运行环境下,需要您提前进行的环境部署步骤及内容。
- 快速入门
章节 | 简介 |
PTQ、QAT简介 | 本章节为您带来QAT、PTQ两种量化方法的简单介绍。 |
算法模型PTQ量化+上板 快速上手 | 本章节中,我们为您提供了一个算法模型使用PTQ方案量化+上板的一个快速入门示例,帮助您了解浮点转换工具链训练后量化(PTQ)的量化与上板的基本使用流程,帮助您实现快速上手。 |
算法模型QAT量化+部署 快速上手 | 本章节中,我们为您提供了算法模型通过QAT方式进行量化到部署的过程说明,帮助您了解量化感知训练(QAT)的量化与上板的基本使用流程,帮助您实现快速上手。 |
- 训练后量化(PTQ)
章节 | 简介 |
PTQ转换原理及流程 | 本章节为您介绍训练后量化PTQ模型转换的整体流程及全过程详解。 |
PTQ转换工具 | 本章节为您详细介绍算法工具链提供的PTQ工具包中工具的使用方法。 |
PTQ转换步骤 | 本章节从模型准备、模型验证、校准数据准备、模型量化&编译、性能分析、精度分析、精度调优等方面,为您进行使用PTQ转换的指导。 |
PTQ转换示例 | 本章节为您介绍horizon_model_convert_sample模型转换示例包及其使用方法。提供了使用浮点模型转换工具链快速完成浮点模型转换定点模型的示例,同时包括单张推理和精度验证示例。 |
常见问题及故障处理 | 本章节为您提供PTQ转换过程一些常见问题的解答以及常见异常故障现象通用解决建议。 |
附录 | 本章节为您介绍数据归一化处理相关参数、相关计算公式的说明与解析,图片缩放裁剪时使用的各个transformer的概念、参数说明及示例。 |
- 量化感知训练(QAT)
章节 | 简介 |
简介 | 本章节为您简单介绍地平线基于 PyTorch 开发的 horizon_plugin_pytorch 的量化感知训练工具。 |
术语约定 | 本章节为您介绍量化感知训练中会用到的一些专业术语。 |
环境依赖 | 本章节为您介绍量化感知训练的环境依赖要求。 |
算法模型QAT量化+部署 快速上手 | 本章节中,我们为您提供了算法模型通过QAT方式进行量化到部署的过程说明,帮助您了解量化感知训练(QAT)的量化与上板的基本使用流程,帮助您实现快速上手。 |
开发指南 | 本章节为您提供量化感知训练开发过程中的指导说明。 |
深入探索 | 本章节为您提供Eager模式、FX Quantization原理介绍及算子融合等内容,帮助您进一步理解量化感知训练。 |
API参考 | 本章节提供了量化感知训练QAT的API接口介绍。 |
常见问题及常见故障 | 本章节为您提供了量化感知训练过程中一些常见问题的解答以及常见异常故障现象通用解决建议。 |
- 模型性能调优指导
章节 | 简介 |
模型性能调优 | 本章节为您介绍,当进行性能分析后,如果性能未达到您的预期情况,地平线对提升模型性能的建议与措施。 |
高效模型设计指导 | 本章节为您介绍当您需要在S100计算平台上进行高效模型设计时,地平线的通用指导建议。 |
- 统一计算平台(UCP)
章节 | 简介 |
总览 | 本章节为您介绍在地平线平台进行应用开发的总体介绍,使用统一计算平台完成视觉处理、深度学习模型部署的方法步骤。 |
模型推理开发 | 本章节为您介绍深度学习模型部署到S100硬件平台上的基础知识、接口介绍、示例介绍、Benchmark使用、端侧工具介绍。 |
UCP通用API介绍 | 本章节为您介绍统一计算平台一些公用的UCP API,包括统一的任务管理,内存管理,版本管理等。 |
UCP性能分析工具 | 本章节为您介绍统一计算平台性能分析工具的使用方法。 |
常见问题及错误码 | 本章节为您提供一些异构编程过程中常见问题的解答以及常见错误码。 |
- 模型部署实践指导
章节 | 简介 |
模型部署原理及流程 | 本章节为您介绍模型从准备到部署的全流程,穿插一些原理介绍及典型场景的通用示例代码,便于您对模型部署的过程及一些必要步骤进行了解。 |
模型部署实践指导实例 | 本章节中,我们以公版ResNet18示例为例,给出一些典型场景下的PTQ通路全流程实践指导,帮助您了解一个算法模型使用PTQ方案量化+上板操作部署实践全流程。 |
- 进阶内容
- 模型性能Benchmark
本章节为您介绍在一定测试条件下,模型Benchmark相关各项数据,便于您清晰获知模型性能。
- 附录
章节 | 简介 |
工具链算子支持约束列表 | 本章节为您列出地平线支持的算子列表,并给出算子所属类型、算子约束条件以及通用使用限制等相关内容供您在使用过程中进行参考。 |
HBIR Operator Definition | 本章节为您提供了HBIR算子的定义说明,以及在地平线计算平台上的使用限制。 |
数据集下载 | 本章节我们给出在使用示例模型时会使用到的数据集的下载链接供您参考。 |
常用缩略语 | 本章节为您介绍您在阅读本文档时,常见的一些缩略词及其全称以及含义,方便您的阅读。 |
社区优质文章 | 本章节通过引入算法工具链的一些优质开发文章,为您提供一些关于算法工具链的补充介绍,方便您进行资料查找及内容学习。 |