您好,欢迎来到星星旅游。
搜索
您的当前位置:首页Java--float浮点数类型精度问题

Java--float浮点数类型精度问题

来源:星星旅游

浮点数为什么不精准?

参考链接:

我们在计算机中写的十进制小数,只有 0 和 1 的计算机要怎么处理?

我们来试一试如何表达十进制的 0.2 吧。

0.01 = 1/4 = 0.25 ,太大

0.001 =1/8 = 0.125 , 又太小

0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了

0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了

0.001101 = 1/8+ 1/16 + 1/ = 0.203125 还是大

0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错

0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875 
已经很逼近了, 就这样吧。

这就是为什么二进制无法准确表达十进制小数。

      我们知道像byte、short、int、long整型类型的数据,他们存储的时候就是整数转化为二进制存储的,是多少就是多少,拿byte类型举例:一个byte类型的数据占一字节(1B)即八位,所以的它的范围就是:-2^7~2^7-1

而浮点数类型float,它占4个字节(4B)即32位,按理说它的取值范围应该是:-2^31~2^31-1,但是它真正的取值范围却约等于:-3.4E38~3.4E38,接下来我们就要研究一下浮点数类型在计算机中是怎么存储的。

拿 0.09f 为例:

long l = Float.floatToRawIntBits(0.09f);
System.out.println(long.toBinaryString(l));

输出结果:

111101101110000101000111101100

我们在它的前面补 0 ,补足32位,按照 1 符号位,8 阶码位,23 尾数位分开。

0 01111011 01110000101000111101100

你可以看到其实它分为了三段:

  • 第一段代表了符号(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0
  • 第二段是阶码(e):01111011  ,对应的10进制是 123
  • 第三段是尾数(M)

你看到了尾数和阶码,就会明白这其实是所谓的科学计数法: 

(-1)^s * M * 2^e

但是把数代进去会发现:

(-1)^0 * 01110000101000111101100 * 2^123

这显然要比 0.09f 要大的很多

这是因为浮点数遵循的是IEEE7 表示法, 我们刚才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变换:

对于阶码e , 一共有8位, 这是个有符号数, 特别是按照IEEE7 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127

所以 E = e - 127 = 123-127 = -4

对于尾数M ,如果阶码不是0或者255, 他其实隐藏了一个小数点左边的一个 1 (节省空间,充分压榨每一个bit啊)。 
即 M = 1.01110000101000111101100

现在写出来就是: 
1.01110000101000111101100 * 2^-4 (二进制的运算就是小数点往前移 4 位)
=0.000101110000101000111101100 
= 1/16 + 1/ + 1/128+ 1/256 + …. 
= 0.0900000035762786865234375

你看这就是0.09的内部表示, 很明显他比0.09更大一些, 是不精确的!

我们再拿一个比较大的数举例子,24625125f :

float fl = 24625125f;

输出结果:

2.4625124E7

最后一位 5 竟然变成了 4?!

按照float遵循的IEEE7表示法,我们先输出一下它的二进制(补全32位)表示:

0 10010111 01110111101111111110010

同理按照上面的步骤再计算一次:

E = e - 127 = 151 - 127 = 24

M = 1.01110111101111111110010

计算:

1.01110111101111111110010 * 2^24

=1011101111011111111100100

=2^24+2^22+2^21+2^20+ ....

=24,625,124‬

这就是存储到计算机中的二进制再转换为十进制的时候,会丧失精度原因。

这样我们在用float处理金融方面的问题,或者需要特别高精度的时候就不能使用float、double浮点数类型了。

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- stra.cn 版权所有 赣ICP备2024042791号-4

违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务