หากคุณใช้double
หรือfloat
คุณควรใช้การปัดเศษหรือคาดว่าจะเห็นข้อผิดพลาดในการปัดเศษ หากคุณไม่สามารถทำได้ให้ใช้BigDecimal
.
ปัญหาที่คุณมีคือ 0.1 ไม่ใช่การแสดงที่แน่นอนและการคำนวณสองครั้งแสดงว่าคุณกำลังรวมข้อผิดพลาด
อย่างไรก็ตาม 100 สามารถแสดงได้อย่างถูกต้องดังนั้นลอง:
double x = 1234;
x /= 100;
System.out.println(x);
ซึ่งพิมพ์:
12.34
วิธีนี้ได้ผลเนื่องจากDouble.toString(d)
ทำการปัดเศษในนามของคุณเพียงเล็กน้อย แต่ก็ไม่มากนัก หากคุณสงสัยว่ามันจะเป็นอย่างไรโดยไม่ต้องปัดเศษ:
System.out.println(new BigDecimal(0.1));
System.out.println(new BigDecimal(x));
พิมพ์:
0.100000000000000005551115123125782702118158340454101562
12.339999999999999857891452847979962825775146484375
ในระยะสั้นการปัดเศษเป็นสิ่งที่หลีกเลี่ยงไม่ได้สำหรับคำตอบที่สมเหตุสมผลในจุดลอยตัวไม่ว่าคุณจะทำสิ่งนี้อย่างชัดเจนหรือไม่ก็ตาม
หมายเหตุ: x / 100
และx * 0.01
ไม่เหมือนกันทุกประการเมื่อพูดถึงข้อผิดพลาดในการปัดเศษ เนื่องจากข้อผิดพลาดรอบสำหรับนิพจน์แรกขึ้นอยู่กับค่าของ x ในขณะที่0.01
ในวินาทีมีข้อผิดพลาดรอบคงที่
for(int i=0;i<200;i++) {
double d1 = (double) i / 100;
double d2 = i * 0.01;
if (d1 != d2)
System.out.println(d1 + " != "+d2);
}
พิมพ์
0.35 != 0.35000000000000003
0.41 != 0.41000000000000003
0.47 != 0.47000000000000003
0.57 != 0.5700000000000001
0.69 != 0.6900000000000001
0.7 != 0.7000000000000001
0.82 != 0.8200000000000001
0.83 != 0.8300000000000001
0.94 != 0.9400000000000001
0.95 != 0.9500000000000001
1.13 != 1.1300000000000001
1.14 != 1.1400000000000001
1.15 != 1.1500000000000001
1.38 != 1.3800000000000001
1.39 != 1.3900000000000001
1.4 != 1.4000000000000001
1.63 != 1.6300000000000001
1.64 != 1.6400000000000001
1.65 != 1.6500000000000001
1.66 != 1.6600000000000001
1.88 != 1.8800000000000001
1.89 != 1.8900000000000001
1.9 != 1.9000000000000001
1.91 != 1.9100000000000001