参考链接:
我们在计算机中写的十进制小数,只有 0 和 1 的计算机要怎么处理?
我们来试一试如何表达十进制的 0.2 吧。
0.01 = 1/4 = 0.25 ,太大
0.001 =1/8 = 0.125 , 又太小
0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了
0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了
0.001101 = 1/8+ 1/16 + 1/ = 0.203125 还是大
0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错
0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875
已经很逼近了, 就这样吧。
这就是为什么二进制无法准确表达十进制小数。
我们知道像byte、short、int、long整型类型的数据,他们存储的时候就是整数转化为二进制存储的,是多少就是多少,拿byte类型举例:一个byte类型的数据占一字节(1B)即八位,所以的它的范围就是:-2^7~2^7-1
而浮点数类型float,它占4个字节(4B)即32位,按理说它的取值范围应该是:-2^31~2^31-1,但是它真正的取值范围却约等于:-3.4E38~3.4E38,接下来我们就要研究一下浮点数类型在计算机中是怎么存储的。
拿 0.09f 为例:
long l = Float.floatToRawIntBits(0.09f);
System.out.println(long.toBinaryString(l));
输出结果:
111101101110000101000111101100
我们在它的前面补 0 ,补足32位,按照 1 符号位,8 阶码位,23 尾数位分开。
0 01111011 01110000101000111101100
你可以看到其实它分为了三段:
你看到了尾数和阶码,就会明白这其实是所谓的科学计数法:
(-1)^s * M * 2^e
但是把数代进去会发现:
(-1)^0 * 01110000101000111101100 * 2^123
这显然要比 0.09f 要大的很多
这是因为浮点数遵循的是IEEE7 表示法, 我们刚才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变换:
对于阶码e , 一共有8位, 这是个有符号数, 特别是按照IEEE7 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127
所以 E = e - 127 = 123-127 = -4
对于尾数M ,如果阶码不是0或者255, 他其实隐藏了一个小数点左边的一个 1 (节省空间,充分压榨每一个bit啊)。
即 M = 1.01110000101000111101100
现在写出来就是:
1.01110000101000111101100 * 2^-4 (二进制的运算就是小数点往前移 4 位)
=0.000101110000101000111101100
= 1/16 + 1/ + 1/128+ 1/256 + ….
= 0.0900000035762786865234375
你看这就是0.09的内部表示, 很明显他比0.09更大一些, 是不精确的!
我们再拿一个比较大的数举例子,24625125f :
float fl = 24625125f;
输出结果:
2.4625124E7
最后一位 5 竟然变成了 4?!
按照float遵循的IEEE7表示法,我们先输出一下它的二进制(补全32位)表示:
0 10010111 01110111101111111110010
同理按照上面的步骤再计算一次:
E = e - 127 = 151 - 127 = 24
M = 1.01110111101111111110010
计算:
1.01110111101111111110010 * 2^24
=1011101111011111111100100
=2^24+2^22+2^21+2^20+ ....
=24,625,124
这就是存储到计算机中的二进制再转换为十进制的时候,会丧失精度原因。
这样我们在用float处理金融方面的问题,或者需要特别高精度的时候就不能使用float、double浮点数类型了。
因篇幅问题不能全部显示,请点此查看更多更全内容
Copyright © 2019- stra.cn 版权所有 赣ICP备2024042791号-4
违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com
本站由北京市万商天勤律师事务所王兴未律师提供法律服务