模型量化原理

注意事项

一、2023/4/11更新

新增Entropy方法计算动态范围

二、2023/4/13更新

新增Entropy方法在实际应用场景中的使用

三、2023/4/16更新

新增P和Q分布bin不能整除的情形处理以及工程实践中tensorRT的Entropy Calibration方法

四、2023/4/24更新

和别人交流之后发现自己对 Entropy 选取动态范围的计算方法依旧是似懂非懂，结合 chatGPT 重新 debug 撸了一遍代码，新增对 TRT Entropy Calibration 示例代码的简单分析(第 5 节内容)

前言

手写AI推出的全新TensorRT模型量化课程，链接。记录下个人学习笔记，仅供自己参考。

本次课程为第三课，主要讲解动态范围的常用计算方法。

课程大纲可看下面的思维导图

1.前情回顾

在之前的课程中我们学习了对称量化和非对称量化的知识，在tensorRT中的INT8量化使用的方法就是对称量化。上节课提出在对称量化中存在一个问题，就是当数据中存在极端值时，会对量化精度造成不利影响，这节课我们就一起来学习相关解决方案。

2.动态范围的常用计算方法

首先来看下本次课程的题目，动态范围的常用计算方法，之前似乎没有提过呀，有点抽象(

TensorRT量化第三课：动态范围的常用计算方法相关推荐

1. 2.2 动态范围的常用计算方法

   前言 不饱和量化方式的量化范围大,但是可能浪费一些低比特的表示空间从而导致量化精度低 饱和量化方式虽然充分利用低比特表示空间,但是会舍弃一些量化范围. 1. 动态范围的常用计算方法 动态范围(Dyna ...

2. MT4/MQL4入门到精通EA教程第三课-MQL语言常用函数（三）-K线取值常用功能函数

   double iOpen(); double iOpen( string symbol, // 交易品种 int timeframe, // 周期 int shift // K线柱 ); iOpen( ...

3. 量化交易 实战第三课 金融时间序列分析 Part 2

   量化交易 实战第三课 金融时间序列分析 Part 2 黄金交叉 时间序列重采样 需求 resample 函数 代码 时间窗口 需求 rolling 函数 代码 股票序列分析策略 需求 代码 回归分析 ...

4. TensoRT量化第四课：PTQ与QAT

   目录 PTQ与QAT 注意事项 一.2023/5/8更新 二.2023/5/12更新 前言 1. TensorRT量化 2. PTQ 3. QAT 4. QAT实战 4.1 环境配置 4.2 pyto ...

5. 北大AI公开课第三课--视觉计算变革与挑战by Face++孙剑

   之前立的flag倒了,今天才来扶,可是有什么办法呢,生活就是要厚着脸皮活下去啊. 今天一起来整理第三课,这是来自face++孙剑老师的分享,因为正好我自己本身也是做计算机视觉的,所以听他的分享,我觉得 ...

6. 第三课.运算符与表达式

   第三课目录 运算符与表达式 算术运算符 关系运算符 逻辑运算符 德摩根律 使用断言assert 位运算符 补码 补码与位运算 赋值运算符 杂项运算符 运算符与表达式 数学是科技发展的基础,数学公式的意 ...

7. 第三课.Linux代码编辑器

   第三课目录 vi/vim vi/vim简介 vi的模式 vi在命令模式下的操作 vi在底线命令模式下的操作 Visual Studio Code Git git简介 关于git的故事 git的使用 v ...

8. 【C语言探索之旅】第三部分第三课：SDL开发游戏之显示图像

   内容简介 1.第三部分第三课: SDL开发游戏之显示图像 2.第三部分第四课预告: SDL开发游戏之事件处理 第三部分第三课:SDL开发游戏之显示图像 上一课中,我们学习了如何加载SDL库(SDL_I ...

9. 光谱 波长_【第三课】红外光谱仪及其联用技术

   第三课 前两节课:[第一课]什么是红外光谱方法.[第二课]如何进行红外光谱结构解析,孙素琴教带我们学习了红外光谱的前世今生,以及红外光谱的理论基础.相信小伙伴们都有所收获,今天咱们将跟随另一位清华大学 ...

最新文章

1. solr参数之facet
2. boost::uuid模块实现宽流存档测试序列化 uuid的测试程序
3. 2.Cocos2d-x-3.2编写3d打飞机，项目代码总结
4. [翻译]你或许还未听说过的一些ASP.NET 2.0要诀
5. leetcode 210. Course Schedule II | 210. 课程表 II（Java）
6. pca 主成分分析_超越普通PCA：非线性主成分分析
7. Aspose.Java实现word转pdf，添加水印等操作
8. 传统MVP用在项目中是真的方便还是累赘?
9. STM32库函数 断言机制 宏定义assert_param(expr)和assert_failed的使用方法
10. 设计一个简易的有道词典
11. php’s explode() 函数
12. matlab hurst,基于Matlab的Hurst指数
13. python jdict_jdict python中的javascript dict
14. 数字孪生技术在交通运输领域管理应用【案例解析】
15. 拼多多怎么做？无货源新手怎么轻松上手？（小珏）
16. origin出图重合部分变色了，怎么办？
17. 如何做好工程项目进度管控
18. 蓝色实景旅游产品手册PPT模板
19. 各种Mapping的区别
20. 如何启用Ubuntu 18.04的鼠标键

热门文章

1. 小白在百度飞桨—被‘练习生’折磨的一周有感
2. Problem G: 点歌单
3. tailwindcss 一览表
4. bluehost主机php语句,BlueHost主机配置Php.ini中文解释（三）
5. error: error validating “deployment. yaml“: error validating data: apiVersion not set； if you choose
6. C语言数学函数库＜math.h＞及常用函数
7. 网际互联及TCP/IP 协议OSI七层模型： 物理层、数据链路层、网络层、传输层、会话层、表示层、应用层
8. 基于Keare的交通标志识别
9. 梳理L1、L2与Smooth L1
10. 【一些觉悟】不在躺平中觉醒，就在躺平中继续躺平