快捷導(dǎo)航

Java開發(fā)常見錯誤之?dāng)?shù)值計算精度和舍入問題詳析

更新時間：2022年11月21日 12:24:27 作者：程序員Alan

除了使用Double保存浮點數(shù)可能帶來精度問題外,更匪夷所思的是這種精度問題,下面這篇文章主要給大家介紹了關(guān)于Java開發(fā)常見錯誤之?dāng)?shù)值計算精度和舍入問題的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下

前言

今天單獨分享數(shù)值計算的問題，是因為最近處理一次線上服務(wù)告警時，發(fā)現(xiàn)還有很多同學(xué)不了解浮點數(shù)計算的坑。

數(shù)值精度問題引發(fā)的Bug一般難以發(fā)現(xiàn)，所以我們在公司處理這方面的業(yè)務(wù)時一定要特別注意。

下面我們來具體看看這些問題。

數(shù)值精度問題

下面輸出的結(jié)果是 ture 還是 false ?

 public static void main(String[] args) {
      Double num1 = 0.15;
      Double num2 = 0.05;
      System.out.println(num1 % num2 == 0);
  }

正確答案是 false 。這是因為計算機(jī)無法精確的保存浮點數(shù)，所以浮點數(shù)計算的結(jié)果也不可能精準(zhǔn)。

再來看一段代碼猜猜輸出結(jié)果。

public static void main(String[] args) {
    System.out.println(0.1+0.2);
    System.out.println(1.0-0.8);
    System.out.println(4.015*100);
    System.out.println(123.3/100);
}

輸出結(jié)果如下：

0.30000000000000004
0.19999999999999996
401.49999999999994
1.2329999999999999

輸出結(jié)果和我們預(yù)期的很不一樣，出現(xiàn)這種問題的原因是因為計算機(jī)是以二進(jìn)制存儲數(shù)值的，浮點數(shù)也不例外。Java采用了IEEE754標(biāo)準(zhǔn)實現(xiàn)浮點數(shù)的表達(dá)和運算。

比如，0.1 的二進(jìn)制表示為 0.0 0011 0011 0011… （0011 無限循環(huán))，再轉(zhuǎn)換為十進(jìn)制就是 0.1000000000000000055511151231257827021181583404541015625。對于計算機(jī)而言，0.1 無法精確表達(dá)，這是浮點數(shù)計算造成精度損失的根源。

你可能會覺得，這種相差非常小不會對產(chǎn)生多大影響，但如果把損失的精度換算成金錢，每天有上百萬交易，每次交易都差一分錢，一個月下來就是30萬。

數(shù)值舍入問題

下面這段代碼的輸出結(jié)果是什么？

public static void main(String[] args) {
    double num = 3.35;
    System.out.println(String.format("%.1f", num));
}

輸出結(jié)果

3.4

這就是由精度問題和舍入方式共同導(dǎo)致的，double 3.35 其實相當(dāng)于 3.350xxx

String.format 采用四舍五入的方式進(jìn)行舍入，取 1 位小數(shù)，double 的 3.350 四舍五入為 3.4

解決方案

涉及到浮點數(shù)精確表達(dá)和運算的場景，使用BigDecimal類型。

但是注意在使用BigDecimal的時候也有幾個坑要避開。

第一個坑：

使用 BigDecimal 表示和計算浮點數(shù)，務(wù)必使用字符串的構(gòu)造方法來初始化 BigDecimal。

  public static void main(String[] args) {
        System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
    }

輸出結(jié)果

0.3
0.3000000000000000166533453693773481063544750213623046875

第二個坑：

浮點數(shù)的字符串格式化也要通過 BigDecimal 進(jìn)行。

   public static void main(String[] args) {
        double num = 3.35;
        System.out.println(String.format("%.1f", num));

        BigDecimal num1 = new BigDecimal("3.35");
        BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
        System.out.println(num2);
    }

輸出結(jié)果

3.4
3.3

總結(jié)

第一，要精確表示浮點數(shù)應(yīng)該使用 BigDecimal。并且使用 String 入?yún)⒌臉?gòu)造方法或者 BigDecimal.valueOf 方法來初始化。

第二，對浮點數(shù)做精確計算，參與計算的各種數(shù)值應(yīng)該始終使用 BigDecimal，所有的計算都要通過 BigDecimal 的方法進(jìn)行，任何一個環(huán)節(jié)出現(xiàn)精度損失，最后的計算結(jié)果可能都會出現(xiàn)誤差。

第三，對于浮點數(shù)的格式化，建議使用 BigDecimal 來表示浮點數(shù)，并使用其 setScale 方法指定舍入的位數(shù)和方式。

補(bǔ)充：為什么會有精度問題？

計算機(jī)處理數(shù)據(jù)都涉及到數(shù)據(jù)的轉(zhuǎn)換和各種復(fù)雜運算，比如，不同單位換算，不同進(jìn)制(如二進(jìn)制十進(jìn)制)換算等，很多除法運算不能除盡，比如10÷3=3.3333.。。。。。。無窮無盡，而精度是有限的，3.3333333x3并不等于10，經(jīng)過復(fù)雜的處理后得到的十進(jìn)制數(shù)據(jù)并不精確，精度越高越精確。float有8位有效數(shù)字，double有16位有效數(shù)據(jù)，float和double都是到大到一定的值自動開始使用科學(xué)計數(shù)法，并保留相關(guān)精度的有效數(shù)字，所以結(jié)果是個近似數(shù)。如果更精確的運算小數(shù)(比如金融，數(shù)學(xué))，希望結(jié)果更符合預(yù)期值應(yīng)該使用Bigcimal。計算器應(yīng)該也會有精度問題，也會有二進(jìn)制十進(jìn)制轉(zhuǎn)換。

java的雙精度和單精度的區(qū)別

現(xiàn)實問題中不但有整型數(shù)值，還有小數(shù)。Java語言也提供了針對小數(shù)的存儲類型，分別是float類型和double類型。

Java語言的浮點類型有兩種不同的表示形式：十進(jìn)制數(shù)和科學(xué)計數(shù)法。十進(jìn)制數(shù)形式，由數(shù)字和小數(shù)點組成，且必須有小數(shù)點，如0.123、12.85、26.98等；科學(xué)計數(shù)法形式，如：2.1E5、3.7e-2等。其中e或E之前必須有數(shù)字，且e或E后面的指數(shù)必須為整數(shù)。