python 浮点数出现长串0 错误位数

https://stackoverflow.com/questions/10403434/floating-point-in-python-gives-a-wrong-answer

>>> float(10.0-9.2)
0.800000000000000*7*

注意到 n*0.001 有时也会出现类似的问题，

>>> 817*0.001
0.8170000000000001

这是一个Python 内置的错误：

Floating point arithmetic has built-in problems as it's based on a binary approximation of numbers.

There is a good explanation of this in the Python docs.

You can check out the decimal module if you need more exact answers.

采用round 可以解决这个问题。

python 浮点数出现长串0 错误位数相关推荐

javascript小数相减会出现一长串的小数位数的原因
javascript小数相减会出现一长串的小数位数的原因 <script> var a='38.8'; var b='6.8'; alert(parseFloat(a)-parseFloa ...
控制Python浮点数输出位数
技术背景在Python的一些长效任务中,不可避免的需要向文本文件.二进制文件或者数据库中写入一些数据,或者是在屏幕上输出一些文本,此时如何控制输出数据的长度是需要我们注意的一个问题.比如对于一个二进 ...
关于python浮点数类型错误的是_关于Python的数字类型,以下选项中描述错误的是...
[单选题]以下程序的输出结果是: lcat =["狮子","猎豹","虎猫","花豹","孟加拉虎" ...
关于python浮点数类型错误的是_关于Python语言的浮点数类型,以下选项中描述错误的是...
[单选题]关于Python字符串,以下选项中描述错误的是 [单选题]以下程序的输出结果是: lcat =["狮子","猎豹","虎猫",&q ...
mac无法下载python_无法在Mac上安装Python包（gcc4.0错误）
我不能使用easy_insall或pip安装任何Python包,因为出现以下错误.我到处找遍了,看到了这个错误的几种变体,但没有找到一个易于理解/遵循的解决方案.非常感谢任何帮助!在我在Mac OS ...
python缺少动态库libpython_浅析python 动态库m.so.1.0错误问题
$ python -V python: error while loading shared libraries: libpython3.6m.so.1.0: cannot open shared o ...
0基础学python需要多长时间_零基础学python大概要多久
如果是自学的话,零基础学python大概要花一年到一年半的时间.每个人的资质不同.理解能力不同,所以花费的时间也不一样.建议零基础的学员报一个python培训班,这样可以有规划的系统性学习,而且花费的 ...
python 浮点数比较_Python中的浮点数
浮点数在计算机中表达为二进制(binary)小数.例如:十进制小数: 0.125 是 1/10 + 2/100 + 5/1000 的值. 类似地,二进制小数: 0.001 是 0/2 + 0/4 + ...
Python 浮点数运算
2019独角兽企业重金招聘Python工程师标准>>> 浮点数用来存储计算机中的小数,与现实世界中的十进制小数不同的是,浮点数通过二进制的形式来表示一个小数.在深入了解浮点数的实现之 ...

python 浮点数出现长串0 错误位数

python 浮点数出现长串0 错误位数相关推荐

最新文章

热门文章