js 解决数据精度丢失问题

一、我们在处理数据的时候可能会遇到类似0.1+0.2 !=0.3的问题，让我们来分析下原因：

因为 JS 采用 IEEE 754 双精度版本（64位），并且只要采用 IEEE 754 的语言都有该问题（我知道的java也是这样）。我们都知道计算机是通过二进制来存储东西的，0.1和0.2在转换二进制后都是是无限循环的，这样其实没什么问题，但是 JS 采用的浮点数标准却会裁剪掉后面的数字，导致精度丢失 0.1+0.2=0.30000000000000004。

比如18466.67*100，按理说他等于1846667吧，可是他等于1846666.9999999998，效果如下

二、我们可以这样处理：

parseFloat((0.1 + 0.2).toFixed(10))

parseFloat((18466.67*100).toFixed(0))

js 解决数据精度丢失问题相关推荐

js浮点数精度丢失问题及如何解决js中浮点数计算不精准
js浮点数精度丢失问题及如何解决js中浮点数计算不精准参考文章: (1)js浮点数精度丢失问题及如何解决js中浮点数计算不精准 (2)https://www.cnblogs.com/ranyonsu ...
vue前端处理后台返回的Long型数据精度丢失
vue前端处理后台返回的Long型数据精度丢失问题描述开发时后端返回的id为Long型,结果发现俩id怎么会一样呢?如下图是控制台Preview返回的数据正以为是后端那边数据有误时,我点开Res ...
技术内参 | 数据分析，如何解决精度丢失的问题？
本文由神策数据技术大咖皮成投稿谈到大数据技术,数据采集和计算是永远绕不开的话题,采集的准确度.计算的精度都是做数据分析的前提条件. 神策数据服务的客户覆盖互联网各个细分领域,其中不乏有做目前大火的虚 ...
利用exif.js解决手机上传竖拍照片旋转90\180\270度问题
利用exif.js解决手机上传竖拍照片旋转90\180\270度问题参考文章: (1)利用exif.js解决手机上传竖拍照片旋转90\180\270度问题 (2)https://www.cnblog ...
js解决异步的方法汇总
js解决异步的方法汇总参考文章: (1)js解决异步的方法汇总 (2)https://www.cnblogs.com/yunshangwuyou/p/9631914.html 备忘一下.
js解决iframe跨域问题
js解决iframe跨域问题参考文章: (1)js解决iframe跨域问题 (2)https://www.cnblogs.com/qinxuhui/p/12154995.html 备忘一下.
vue.js 默认选中select_vue.js 解决v-model让select默认选中不生效的问题
笔者今天在开发中遇到一个看起来很神奇的问题,平时编辑的页面我们select下拉选框利用vue.js 的v-model来实现自动选中,今天无论如何都选不中,后来经过很久的复查和大神的一句话终于解决这个这 ...
用JS解决多行溢出文本的省略问题
前言在项目开发过程中,经常会遇到溢出文本的省略问题.根据需求,可以把文本省略分为单行文本省略和多行文本省略两类. 单行文本的省略,现在css样式 text-overflow 已经有兼容性很好的样式支 ...
js 浮点数精度问题可以用accounting.js解决
js 浮点数精度问题可以用accounting.js解决地址 https://github.com/itcjf/accounting.js

js 解决数据精度丢失问题

一、我们在处理数据的时候可能会遇到类似0.1+0.2 !=0.3的问题，让我们来分析下原因：

二、我们可以这样处理：

parseFloat((0.1 + 0.2).toFixed(10))

js 解决数据精度丢失问题相关推荐

最新文章

热门文章