时间:2021-05-22
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。
a = 4.1b = 5.329print(a+b) 9.428999999999998这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式,因此使用float实例时就不能避免这样的误差。
我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能):
from decimal import Decimala = Decimal('4.1')b = Decimal('5.329')print(a+b) 9.429注意Decimal的参数必须是字符串,不能是浮点型,否则误差依旧存在。
decimal模块的主要功能是允许控制计算过程中的各个方面,包括数字的尾数和四舍五入。
from decimal import Decimalfrom decimal import localcontexta = Decimal(4.1)b = Decimal(5.329)print(a/b)print('================')with localcontext() as ctx: ctx.prec = 3 print(a/b) 0.7693751172827922400071261708================0.769getcontext也可以实现和localcontext一样的功能
from decimal import Decimal, getcontexta = Decimal(4.1)b = Decimal(5.329)getcontext().prec = 3print(a/b) 0.769误差我们不能完全消除,我们只能尽力优化算法,使得误差尽可能小。在大数和小数相加时要格外注意。
nums = [3.21e+18, 1, -3.21e+18]print(sum(nums))print('=========================')import mathres = math.fsum(nums)print(res) 0.0=========================1.0以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
-AUC计算方法-AUC的Python实现方式AUC计算方法AUC是ROC曲线下的面积,它是机器学习用于二分类模型的评价指标,AUC反应的是模型对样本的排序能力
小数乘整数课件的一个例题,通过部分到整体的过渡,比较清楚直观地让学生看到同一个小数多次相加的结果。由此转换出小数乘整数的计算方法。课件通过制作各个素材,添加多种
本文实例讲述了Python实现计算圆周率π的值到任意位的方法。分享给大家供大家参考,具体如下:一、需求分析输入想要计算到小数点后的位数,计算圆周率π的值。二、算
拼多多的品质退款率计算方法一直被不少商家所诟病,现在这点也做出了相应的更新,下面来看看具体更新内容: 一、品质退款数据计算方法更改 与之前顾客发起退款,
到底整数分区会得到整数的容量结果?分区计算方法:较早时间的计算方法为:MB=(G-1)*4+1024*G该方法用于早期的FAT32分区所得到的结果比较准确,但用