Python基础之数字精度

系统 1624 0
            
              1.9//2  #向下取整
0.0
1.9/2   #不取整
0.95

import math
math.floor(1/2)  #向下取整
0
math.ceil(1/2)   #向上取整
round(0.3)       #四舍五入
0
round(0.8)       #四舍五入
1

round(1.22222,2)   #保留2位小数
1.22

            
          

“”"
从数学理论上来说,四舍五入,round(10.5,0)应该进位为11,
但是到了python3.5的doc中,文档变成了"values are rounded to the closest multiple of 10 to the power minus ndigits; if two multiples are equally close, rounding is done toward the even choice." 如果距离两边一样远,会保留到偶数的一边。比如round(0.5)和round(-0.5)都会保留到0,而round(1.5)会保留到2。
“”"

            
              round(10.500000001,0)
11.0

round(10.5,0)
10.0

            
          

计算结果精度与预期不符的解决方法:

            
              >>> 10-9.9
0.09999999999999964
>>> (10*100-9.9*100)/100
0.1

            
          

更多文章、技术交流、商务合作、联系博主

微信扫码或搜索:z360901061

微信扫一扫加我为好友

QQ号联系: 360901061

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描下面二维码支持博主2元、5元、10元、20元等您想捐的金额吧,狠狠点击下面给点支持吧,站长非常感激您!手机微信长按不能支付解决办法:请将微信支付二维码保存到相册,切换到微信,然后点击微信右上角扫一扫功能,选择支付二维码完成支付。

【本文对您有帮助就好】

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描上面二维码支持博主2元、5元、10元、自定义金额等您想捐的金额吧,站长会非常 感谢您的哦!!!

发表我的评论
最新评论 总共0条评论