int8 int16 int32 int64 float16 float32

int

int8取值范围是-128 - 127

Int16 意思是16位整数(16bit integer)，相当于short 占2个字节 -32768 ~ 32767

Int32 意思是32位整数(32bit integer), 相当于 int 占4个字节 -2147483648 ~ 2147483647

Int64 意思是64位整数(64bit interger), 相当于 long long 占8个字节 -9223372036854775808 ~ 9223372036854775807

float

一个float单精度浮点数一般是4bytes（32bit）来表示，由三部分组成：符号位、指数部分（表示2的多少次方）和尾数部分（小数点前面是0，尾数部分只表示小数点后的数字）

双精度64位，单精度32位，半精度自然是16位

float32: 单精度浮点数float的这三部分所占的位宽分别为：1，8，23

float16: 半精度浮点数half的这三部分所占的位宽分别为：1，5，10

半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。

很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。

Google的TensorFlow就是使用了16位的浮点数，不过他们用的不是英伟达提出的那个标准，而是直接把32位的浮点数小数部分截了。据说是为了less computation expensive。。。

其他

Byte 相当于byte(unsigned char) 0 ~ 255

WORD 等于 unsigned short 0 ~ 65535

int8 int16 int32 int64 float16 float32相关推荐

Golang中 int int8 int16 int32 int64的区别和取值范围
先说结论吧,方便快速查询验证. 总结区别 int 类型大小为 8 字节 int8 类型大小为 1 字节 int16 类型大小为 2 字节 int32 类型大小为 4 字节 int64 类型大小为 8 ...
Golang中int, int8, int16, int32, int64和uint区别
Golang中int, int8, int16, int32, int64和uint区别前言测试结果结论总结前言在学习go语言时,做算法题会很经常遇到go语言的各种int类型,为什么会有 ...
python中 Int8 Int16 Int32 Int64 float uint8
python中 Int8 Int16 Int32 Int64 float uint8 Int8, 占1个字节. Int16, 占2个字节. Int32, 占4个字节. Int64, 占8个字节. fl ...
Golang的Int8 Int16 Int32 Int64区别
位(bit):二进制数中的一个数位,可以是0或者1,是计算机中数据的最小单位字节(Byte B):计算机中数据的基本单位,每8位组成一个字节字(Word):两个字节称为一个字.汉字的存储单位都是一 ...
Golang: int, int8, int16, int32, int64 和 uint 区别
测试 unsafe.Sizeof() 只返回数据类型的大小,不管引用数据的大小,单位为Byte package mainimport ("fmt""unsafe" ...
Golang中uint、int, int8, int16, int32, int64区别
Golang各种数值占据的大小 int类型的大小为 8 字节 int8类型大小为 1 字节 int16类型大小为 2 字节 int32类型大小为 4 字节 int64类型大小为 8 字节 ====== ...
Golang中int, int8, int16, int32, int64区别
猫哥写Golang过程中,遇到整数常用int,因为可以少打至少一个字符. T_T 一直没有意识到其实各个int还是有区别的,起码是内存空间上的区别. 一段简单粗暴的程序,描述一下区别: package ...
golang中int int8 int16 int32 int64 uint8 uint16 uint32 uint64 占用字节和取值范围
================================ go grpc-go 相关技术专栏总入口 go语言基础知识总结.整理.收藏 ========================== ...
数据类型说明：int16,int32,int64,WORD
一开始看到Int16, Int32, Int64这三种类型就觉得有点怪, 为什么要整个数字结尾的, 这么干就是想让大家一眼就知道这个数据类型占多大空间吧. Int16, 等于short, 占2个字节. ...

int8 int16 int32 int64 float16 float32

int

float

其他

int8 int16 int32 int64 float16 float32相关推荐

最新文章

热门文章