双原始类型数据的意外行为

我想了解Java double类型如何将其值存储在Java中的内存中。 当我运行下面的代码时,我得到意外的输出:

public static void main(String[] args)  {

    float a = 1.5f;
    float b= 0.5f;
    double c= 1.5;
    double d = 0.5;

    float a1 = 1.4f;
    float b1= 0.5f;
    double c1= 1.4;
    double d1 = 0.5;

    System.out.println(" a- b is " + (a-b));
    System.out.println(" c- d is " + (c-d));
    System.out.println("a1-b1 is " + (a1-b1));
    System.out.println("c1-d1 is " + (c1-d1));

}

输出:

 a- b is 1.0
 c- d is 1.0
a1-b1 is 0.9
c1-d1 is 0.8999999999999999

为什么c1-d1不等于0.9

我也尝试了其他不同的值,但有一段时间它会返回预期的结果,有些则不会。


虽然您可能听说过四舍五入错误,但您可能想知道为什么在这里出现舍入错误。

float a1 = 1.4f;
float b1 = 0.5f;
double c1 = 1.4;
double d1 = 0.5;

System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +
        new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));
System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +
        new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));

版画

1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.9
1.399999999999999911182158029987476766109466552734375 - 0.5 is
     0.899999999999999911182158029987476766109466552734375 
     or as a double is 0.8999999999999999

正如你所看到的, floatdouble都不能完全表示这些值,当float或double打印时,会发生一些舍入来隐藏这些值。 在这种浮动的情况下,舍入到小数点后7位可以得到您所期望的数字。 在具有16位精度的double的情况下,舍入误差是可见的。

作为@Eric Postpischil,注意floatdouble操作是否有舍入错误完全取决于所使用的值。 在这种情况下,即使通过表示的值比0.9的值还要高出0.9倍,看起来更准确的浮动。

简而言之:如果你打算使用floatdouble你应该使用明智的舍入策略。 如果你不能这样做,请使用BigDecimal。

System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));
System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));

版画

a1 - b1 is 0.90
c1 - d1 is 0.90

当你打印一个float或者double时,它假设最接近的十进制小数值就是你真正想要的值。 即在0.5 ulp以内。

例如

double d = 1.4 - 0.5;
float f = d;
System.out.println("d = " + d + " f = " + f);

版画

d = 0.8999999999999999 f = 0.9

println Java文档通过几个链接指向toString的文档。 toString的文档说,为floatdouble打印的数字数是唯一区分同一类型中相邻可表示值的值所需的数字。

当“1.4f”转换为浮点数时,结果为1.39999997615814208984375(十六进制浮点数,0x1.666666p + 0)。 当减去.5时,结果为0.89999997615814208984375(0x1.ccccccp-1)。 碰巧,这个浮点数也是最接近.9的浮点数。 所以,打印时打印“.9”。

当“1.4”转换为双精度时,结果为1.399999999999999911182158029987476766109466552734375(0x1.6666666666666p + 0)。 当减去.5时,结果为0.899999999999999911182158029987476766109466552734375(0x1.cccccccccccccp-1)。 这不是与0.9最接近的那个double,因为0.9000000000000222294474935083080847263336181640625(0x1.cccccccccccp-1)更接近。 因此,在打印时,Java规范要求将值更精细地打印出来,与.9区分开来。 结果“0.8999999999999999”准确地表示实际值。

链接地址: http://www.djcxy.com/p/65237.html

上一篇: Unexpected behavior of double primitive type data

下一篇: Application Initialization Module for IIS 7.5 issue