时间:2021-05-26
前言
在公司项目中涉及到一个有大量浮点数价格计算的模块,从而引发了我一系列的思考:
计算机二进制环境下浮点数的计算精度缺失问题;
console.log(.1+.2);0.30000000000000004为了解决上述问题,使用了toFixed方法却出现了浮点数小数位以5结尾的四舍五入错误问题;
var num = 0.045;console.log(num.toFixed(2));0.04以此为起点,引发了我关于toFixed的一系列探索,终于找到了一些有用的信息,toFixed使用的计算规则是:
银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。
简单来说就是:四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一。
正文
下面我们就来证实这个所谓的银行家舍入法,证实分为三种情况,分别以4、5、6为舍入位对toFixed的证实(以chrome为例):
以4为舍入位:
var num = 0.004;console.log(num.toFixed(2));0.00var num = 0.014;console.log(num.toFixed(2));0.01var num = 0.094;console.log(num.toFixed(2));0.09在4结尾这种情况下toFixed表现的还算不错,并没有错误的问题。
以6为舍入位:
以6结尾这种情况下toFixed表现的也不错,并没有错误的问题。
以5为舍入位:
5后非零:
根据规则,五后非零就进一,我们证实并没有任何的问题。
以5为舍入位:
5后为零: 由于这种情况比较特殊,是toFixed方法出现计算错误的情况,所以我进行了大量的证实,且分别在常见的主流浏览器下进行了测试:
以如下测试用例为例:
chrome、firefox、safari、opera的结果如下:
0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10
ie11结果如下:
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10
可以看出Ie11下正常,其余浏览器下均出现错误。虽然并不完全符合银行家舍入法的规则,我认为是由于二进制下浮点数的坑导致了不完全符合该规则。
总而言之:不论引入toFixed解决浮点数计算精度缺失的问题也好,它有没有使用银行家舍入法也罢,都是为了解决精度的问题,但是又离不开二进制浮点数的环境,但至少他帮助我们找到了问题所在,从而让我们有解决方法。
解决方法
下面我提供一种通过重写toFixed的方法:
该方法的大致思路是首先找到舍入位,判断该位置是否大于等于5,条件成立手动进一位,然后通过参数大小将原浮点数放大10的参数指数倍,然后再将包括舍入位后的位数利用floor全部去掉,根据我们之前的手动进位来确定是否进位。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
javascript中toFixed使用的是银行家舍入规则。银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。简单来说就是:四舍
iTunes计算错误 第一种情况是iTunes计算错误,其实它根本没有占用那么多空间,所以需要做的只是: 将iOS设备连接到电脑并打开iTunes点击摘
腾讯控股公司旗下微信应用正在就开发一款消息服务展开磋商,旨在允许国际银行家与中国银行家在不违反合规原则的前提下讨论债券交易。知情人士称,中国的许多银行家在微信群
java代码实现了银行家算法,界面写的个人认为还是较为细致的,完整的实现了找安全序列等算法功能,可作为参考学习银行家算法。直接上代码:①界面展示方法:publi
11月18日消息,《》获悉,近日,墨西哥中央银行、墨西哥银行家协会(ABM)和墨西哥大众金融协会(AMSOFIPO)共同宣布,将推出一个名为CobroDigit