LinuxSir.cn,穿越时空的Linuxsir!

 找回密码
 注册
搜索
热搜: shell linux mysql
查看: 3130|回复: 2

关于Python浮点运算的问题

[复制链接]
发表于 2011-5-12 15:53:59 | 显示全部楼层 |阅读模式
先看实例:

>>> 2.0/5.0
0.40000000000000002

>>> 0.2*0.3
0.059999999999999998

>>> 0.3-0.2
0.099999999999999978

>>> 0.25+0.25
0.5
>>> 0.25+0.26
0.51000000000000001

>>> c=0.8E-6
>>> c
7.9999999999999996e-07

这可能是二进制到十进制转换过程中出现的问题吧,可是在进行数值计算时,这样的情况怎么保证精度呢?
发表于 2012-2-24 14:33:31 | 显示全部楼层
要精度的话应该用大数库,任何语言原生的浮点运算都是不会精确到哪里去的。
回复 支持 反对

使用道具 举报

发表于 2012-3-2 18:22:13 | 显示全部楼层

  1. import decimal
复制代码
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表