浮点数运算的精度问题

问题描述
在 JavaScript 中整数和浮点数都属于 Number 数据类型，所有数字都是以 64 位浮点数形式储存，即便整数也是如此。所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。在一些特殊的数值表示中，例如金额，这样看上去有点变扭，但是至少值是正确了。然而要命的是，当浮点数做数学运算的时候，你经常会发现一些问题，举几个例子：

  // 加法 =====================
// 0.1 + 0.2 = 0.30000000000000004// 0.7 + 0.1 = 0.7999999999999999// 0.2 + 0.4 = 0.6000000000000001// 2.22 + 0.1 = 2.3200000000000003
// 减法 =====================
// 1.5 - 1.2 = 0.30000000000000004
// 0.3 - 0.2 = 0.09999999999999998// 乘法 =====================
// 19.9 * 100 = 1989.9999999999998
// 19.9 * 10 * 10 = 1990
// 1306377.64 * 100 = 130637763.99999999
// 1306377.64 * 10 * 10 = 130637763.99999999
// 0.7 * 180 = 125.99999999999999
// 9.7 * 100 = 969.9999999999999
// 39.7 * 100 = 3970.0000000000005// 除法 =====================
// 0.3 / 0.1 = 2.9999999999999996
// 0.69 / 10 = 0.06899999999999999

问题的原因
似乎是不可思议。小学生都会算的题目，JavaScript 不会？我们来看看其真正的原因。
JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式，对于64位的浮点数在内存中的表示，最高的1位是符号位，接着的11位是指数，剩下的52位为有效数字，具体：
第0位：符号位， s 表示，0表示正数，1表示负数；
第1位到第11位：储存指数部分， e 表示；
第12位到第63位：储存小数部分（即有效数字），f 表示，
如图：
计算过程
比如在 JavaScript 中计算 0.1 + 0.2时，到底发生了什么呢？
首先，十进制的0.1和0.2都会被转换成二进制，但由于浮点数用二进制表达时是无穷的，例如。

0.1 -> 0.0001100110011001...(无限)
0.2 -> 0.0011001100110011...(无限)

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持 53 位二进制位，所以两者相加之后得到二进制为

0.0100110011001100110011001100110011001100110011001100

因浮点数小数位的限制而截断的二进制数字，再转换为十进制，就成了 0.30000000000000004。所以在进行算术计算时会产生误差。

整数的精度问题
在 Javascript 中，整数精度同样存在问题，先来看看问题：

console.log(19571992547450991); //=> 19571992547450990
console.log(19571992547450991===19571992547450992); //=> true

同样的原因，在 JavaScript 中 Number类型统一按浮点数处理，整数是按最大54位来算最大(253 - 1，Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1)，Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围，就会存在被舍去的精度问题。

当然这个问题并不只是在 Javascript 中才会出现，几乎所有的编程语言都采用了 IEEE-745 浮点数表示法，任何使用二进制浮点数的编程语言都会有这个问题，只不过在很多其他语言中已经封装好了方法来避免精度的问题，而 JavaScript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。

解决方案
加法函数

/**** 加法函数，用来得到精确的加法结果** 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。** 调用：accAdd(arg1,arg2)** 返回值：arg1加上arg2的精确结果**/
function accAdd(arg1, arg2) {var r1, r2, m, c;try {r1 = arg1.toString().split(".")[1].length;}catch (e) {r1 = 0;}try {r2 = arg2.toString().split(".")[1].length;}catch (e) {r2 = 0;}c = Math.abs(r1 - r2);m = Math.pow(10, Math.max(r1, r2));if (c > 0) {var cm = Math.pow(10, c);if (r1 > r2) {arg1 = Number(arg1.toString().replace(".", ""));arg2 = Number(arg2.toString().replace(".", "")) * cm;} else {arg1 = Number(arg1.toString().replace(".", "")) * cm;arg2 = Number(arg2.toString().replace(".", ""));}} else {arg1 = Number(arg1.toString().replace(".", ""));arg2 = Number(arg2.toString().replace(".", ""));}return (arg1 + arg2) / m;
}//给Number类型增加一个add方法，调用起来更加方便。
Number.prototype.add = function (arg) {return accAdd(arg, this);
};

减法函数

/**** 减法函数，用来得到精确的减法结果** 说明：javascript的减法结果会有误差，在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。** 调用：accSub(arg1,arg2)** 返回值：arg1加上arg2的精确结果**/
function accSub(arg1, arg2) {var r1, r2, m, n;try {r1 = arg1.toString().split(".")[1].length;}catch (e) {r1 = 0;}try {r2 = arg2.toString().split(".")[1].length;}catch (e) {r2 = 0;}m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度n = (r1 >= r2) ? r1 : r2;return ((arg1 * m - arg2 * m) / m).toFixed(n);
}// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.sub = function (arg) {return accMul(arg, this);
};

乘法函数

/**** 乘法函数，用来得到精确的乘法结果** 说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。** 调用：accMul(arg1,arg2)** 返回值：arg1乘以 arg2的精确结果**/
function accMul(arg1, arg2) {var m = 0, s1 = arg1.toString(), s2 = arg2.toString();try {m += s1.split(".")[1].length;}catch (e) {}try {m += s2.split(".")[1].length;}catch (e) {}return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.mul = function (arg) {return accMul(arg, this);
};

除法函数

/** ** 除法函数，用来得到精确的除法结果** 说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。** 调用：accDiv(arg1,arg2)** 返回值：arg1除以arg2的精确结果**/
function accDiv(arg1, arg2) {var t1 = 0, t2 = 0, r1, r2;try {t1 = arg1.toString().split(".")[1].length;}catch (e) {}try {t2 = arg2.toString().split(".")[1].length;}catch (e) {}with (Math) {r1 = Number(arg1.toString().replace(".", ""));r2 = Number(arg2.toString().replace(".", ""));return (r1 / r2) * pow(10, t2 - t1);}
}//给Number类型增加一个div方法，调用起来更加方便。
Number.prototype.div = function (arg) {return accDiv(this, arg);
};

浮点数运算的精度问题相关推荐

64位浮点数_JavaScript 浮点数运算的精度问题
问题描述在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此. 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 ...
浮点数运算的精度问题：以js语言为例
在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此. 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 ...
Golang 浮点数运算避免精度损失 Decimal包
Golang 小数计算现状: 存在精度损失 d := 1129.6 fmt.Println((d * 100)) //输出:112959.99999999999var d float64 = 1129 ...
c语言浮点数乘法运算,记C语言浮点数运算处理坑一则
看一小段C语言程序: int main() { float x = 1.3; x = x - (int)x; int i = (int)(x*); return ; } 在你心目中, 变量 I 是怎样 ...
js浮点数运算不精确如何解决_解决浏览器处理数字运算时精度丢失的方法
浏览器处理数字运算时精度丢失的方法为什么0.1 + 0.2 不等于0.3.因为计算机不能精确表示0.1, 0.2这样的浮点数,计算时使用的是带有舍入误差的数并不是所有的浮点数在计算机内部都存在舍入 ...
关于Java浮点数运算精度丢失问题
2019独角兽企业重金招聘Python工程师标准>>> 关于Java浮点数运算精度丢失问题博客分类: java 前几天看了一个朋友的博客,说Java中浮点数运算精度丢失的问题,他给 ...
PHP浮点数运算精度问题
最近有客户反应商城订单金额总是不准确,总是相隔一分钱.检查相关代码逻辑都是正确的,就是运用了四则运算.大概推测问题可能出在浮点计算丢失精度.在<PHP程序员雷雪松的博客>中写过一篇关于JS ...
浮点数运算精度丢失的问题
导入在我们平时编码的过程中,你一定遇到过这样的问题: const a = 0.1; const b = 0.2; console.log(a + b); // 0.30000000000000004 ...
js中浮点数运算精度问题
在js中,我们有时会遇到计算,通过加减乘除处理某些业务.那么这时候如果不做任何处理,就会出现如下典型的精度丢失问题. console.log(0.1 + 0.2) ; // 0.30000000000 ...

浮点数运算的精度问题

浮点数运算的精度问题相关推荐

最新文章

热门文章