双原始类型数据的意外行为
我想了解Java double
类型如何将其值存储在Java中的内存中。 当我运行下面的代码时,我得到意外的输出:
public static void main(String[] args) {
float a = 1.5f;
float b= 0.5f;
double c= 1.5;
double d = 0.5;
float a1 = 1.4f;
float b1= 0.5f;
double c1= 1.4;
double d1 = 0.5;
System.out.println(" a- b is " + (a-b));
System.out.println(" c- d is " + (c-d));
System.out.println("a1-b1 is " + (a1-b1));
System.out.println("c1-d1 is " + (c1-d1));
}
输出:
a- b is 1.0 c- d is 1.0 a1-b1 is 0.9 c1-d1 is 0.8999999999999999
为什么c1-d1
不等于0.9
?
我也尝试了其他不同的值,但有一段时间它会返回预期的结果,有些则不会。
虽然您可能听说过四舍五入错误,但您可能想知道为什么在这里出现舍入错误。
float a1 = 1.4f;
float b1 = 0.5f;
double c1 = 1.4;
double d1 = 0.5;
System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +
new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));
System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +
new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));
版画
1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.9
1.399999999999999911182158029987476766109466552734375 - 0.5 is
0.899999999999999911182158029987476766109466552734375
or as a double is 0.8999999999999999
正如你所看到的, float
和double
都不能完全表示这些值,当float或double打印时,会发生一些舍入来隐藏这些值。 在这种浮动的情况下,舍入到小数点后7位可以得到您所期望的数字。 在具有16位精度的double的情况下,舍入误差是可见的。
作为@Eric Postpischil,注意float
或double
操作是否有舍入错误完全取决于所使用的值。 在这种情况下,即使通过表示的值比0.9的值还要高出0.9倍,看起来更准确的浮动。
简而言之:如果你打算使用float
或double
你应该使用明智的舍入策略。 如果你不能这样做,请使用BigDecimal。
System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));
System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));
版画
a1 - b1 is 0.90
c1 - d1 is 0.90
当你打印一个float或者double时,它假设最接近的十进制小数值就是你真正想要的值。 即在0.5 ulp以内。
例如
double d = 1.4 - 0.5;
float f = d;
System.out.println("d = " + d + " f = " + f);
版画
d = 0.8999999999999999 f = 0.9
println
Java文档通过几个链接指向toString
的文档。 toString
的文档说,为float
或double
打印的数字数是唯一区分同一类型中相邻可表示值的值所需的数字。
当“1.4f”转换为浮点数时,结果为1.39999997615814208984375(十六进制浮点数,0x1.666666p + 0)。 当减去.5时,结果为0.89999997615814208984375(0x1.ccccccp-1)。 碰巧,这个浮点数也是最接近.9的浮点数。 所以,打印时打印“.9”。
当“1.4”转换为双精度时,结果为1.399999999999999911182158029987476766109466552734375(0x1.6666666666666p + 0)。 当减去.5时,结果为0.899999999999999911182158029987476766109466552734375(0x1.cccccccccccccp-1)。 这不是与0.9最接近的那个double,因为0.9000000000000222294474935083080847263336181640625(0x1.cccccccccccp-1)更接近。 因此,在打印时,Java规范要求将值更精细地打印出来,与.9区分开来。 结果“0.8999999999999999”准确地表示实际值。
链接地址: http://www.djcxy.com/p/65237.html