时间:2021-05-20
文章来源:csdn 作者:treeroot
浮点数分为单精度和双精度,Java中的单精度和双精度分别为float和double.你们知道float和double是怎么存储的吗?
float占4个字节,double占8个字节,为了方便起见,这里就只讨论float类型.
float其实和一个int型的大小是一样的,一共32位,第一位表示符号,2-9表示指数,后面23位表示小数部分.这里不多说,请参考:http://blog.csdn.net/treeroot/archive/2004/09/05/95071.aspx
这里只举一个例子,希望能抛砖引玉,就是研究一下浮点数0.1的存储形式,先运行这个程序.
while (i > 0) {
j <<= 1;
float deta = ( (float) 1) / j;
if (rest >= deta) {
rest -= deta;
x |= i;
}
i >>= 1;
}
pr(x);
pr(y);
}
static void pr(int i) {
System.out.println(Integer.toBinaryString(i));
}
}
结果:
111101110011001100110011001101
111101110011001100110011001101
程序说明:
int x=0x3d80000;
因为浮点表示形式为1.f*2n-127我们要表示0.1,可以知道n-127=-4,到n=123
符号为正,可知前9是 001111011,暂时不考虑后面的23位小数,所以我们先假设x=0x3d800000;
其他的不多说了,输入结果是一样的,可以说0.1这个浮点数肯定是不精确的,但是0.5可以精确的表示,想想为什么吧
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
上节课简单介绍了浮点数。计算机程序中的浮点数分为单精度浮点数和双精度浮点数。单精度和双精度精确的范围不一样。计算机里的最基本的存储单位用位(bit)来表示。bi
1.浮点数的介绍float(浮点型)是Python基本数据类型中的一种,Python的浮点数类似数学中的小数和C语言中的double类型;2.浮点型的运算浮点数
不论是float还是double都是浮点数,而计算机是二进制的,浮点数会失去一定的精确度。Java在java.math包中提供的API类BigDecimal,用
控制浮点数打印格式浮点数的打印和格式控制是sprintf的一大常用功能,浮点数使用格式符”%f”控制,默认保留小数点后6位数字,比如:复制代码代码如下:spri
[Python标准库]decimal——定点数和浮点数的数学运算作用:使用定点数和浮点数的小数运算。Python版本:2.4及以后版本decimal模块实现了定