时间:2021-05-26
一、PHP浮点数精度损失问题
先看下面这段代码:
复制代码 代码如下:
$f = 0.57;
echo intval($f * 100); //56
结果可能有点出乎你的意外,PHP遵循IEEE 754双精度:
浮点数, 以64位的双精度, 采用1位符号位(E), 11指数位(Q), 52位尾数(M)表示(一共64位).
符号位:最高位表示数据的正负,0表示正数,1表示负数。
指数位:表示数据以2为底的幂,指数采用偏移码表示
尾数:表示数据小数点后的有效数字.
再来看看小数用二进制怎么表示:
乘2取整,顺序排列,即将小数部分乘以2,然后取整数部分,剩下的小数部分继续乘以2,然后取整数部分,剩下的小数部分又乘以2,一直取到小数部分,但是像0.57这样的小数像这样一直乘下去,小数部分不可能为0.有效位的小数用二进制表示却是无穷的。
0.57的二进制表示基本上(52位)是: 0010001111010111000010100011110101110000101000111101
如果只有52位的话,0.57 =》 0.56999999999999995
不难看出上面意外的结果了吧。
二、PHP浮点数的精度问题
先看问题:
复制代码 代码如下:
$f = 0.58;
var_dump(intval($f * 100)); //为啥输出57
我相信有很多的同学有过这样的疑问。
具体原理可阅读“鸟哥”的一篇文章,那里有详细的解说:PHP浮点数的一个常见问题的解答
那么如何避免这种问题呢?
办法有很多,这里列举两个:
1. sprintf
复制代码 代码如下:
substr(sprintf("%.10f", ($a/ $b)), 0, -7);
2. round (注意会进行四舍五入)
复制代码 代码如下:
round($a/$b, 3);
或者你有更好的办法,也可以了留言告诉我。
三、PHP浮点数的一个常见问题的解答
关于PHP的浮点数, 我之前写过一篇文章: 关于PHP浮点数你应该知道的(All ‘bogus' about the float in PHP)
不过, 我当时遗漏了一点, 也就是对于如下的这个常见问题的回答:
复制代码 代码如下:
<?php
$f = 0.58;
var_dump(intval($f * 100)); //为啥输出57
?>
为啥输出是57啊? PHP的bug么?
我相信有很多的同学有过这样的疑问, 因为光问我类似问题的人就很多, 更不用说bugs.php.net上经常有人问…
要搞明白这个原因, 首先我们要知道浮点数的表示(IEEE 754):
浮点数, 以64位的长度(双精度)为例, 会采用1位符号位(E), 11指数位(Q), 52位尾数(M)表示(一共64位).
符号位:最高位表示数据的正负,0表示正数,1表示负数。
指数位:表示数据以2为底的幂,指数采用偏移码表示
尾数:表示数据小数点后的有效数字.
这里的关键点就在于, 小数在二进制的表示, 关于小数如何用二进制表示, 大家可以百度一下, 我这里就不再赘述, 我们关键的要了解, 0.58 对于二进制表示来说, 是无限长的值(下面的数字省掉了隐含的1)..
0.58的二进制表示基本上(52位)是: 0010100011110101110000101000111101011100001010001111
0.57的二进制表示基本上(52位)是: 0010001111010111000010100011110101110000101000111101
而两者的二进制, 如果只是通过这52位计算的话,分别是:
复制代码 代码如下:
0.58 -> 0.57999999999999996
0.57 -> 0.56999999999999995
至于0.58 * 100的具体浮点数乘法, 我们不考虑那么细, 有兴趣的可以看(Floating point), 我们就模糊的以心算来看… 0.58 * 100 = 57.999999999
那你intval一下, 自然就是57了….
可见, 这个问题的关键点就是: “你看似有穷的小数, 在计算机的二进制表示里却是无穷的”
so, 不要再以为这是PHP的bug了, 这就是这样的…..
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
上节课简单介绍了浮点数。计算机程序中的浮点数分为单精度浮点数和双精度浮点数。单精度和双精度精确的范围不一样。计算机里的最基本的存储单位用位(bit)来表示。bi
为什么说浮点数缺乏精确性?在开始本文之前,让我们先来谈谈浮点数为什么缺乏精确性的问题,其实这不是Python的问题,而是实数的无限精度跟计算机的有限内存之间的矛
vs2015计算机运算中,难免要用到浮点数的计算,浮点数有其计算的精度,怎么在C#中提高数据精度呢?小下面我们就来看看详细的教程。软件名称:VisualStud
time()方法返回时间,在UTC时代以秒表示浮点数。注意:尽管在时间总是返回作为一个浮点数,并不是所有的系统提供时间超过1秒精度。虽然这个函数正常返回非递减的
前言在公司项目中涉及到一个有大量浮点数价格计算的模块,从而引发了我一系列的思考:计算机二进制环境下浮点数的计算精度缺失问题;console.log(.1+.2)