前言

今天單獨(dú)分享數(shù)值計(jì)算的問(wèn)題，是因?yàn)樽罱幚硪淮尉€(xiàn)上服務(wù)告警時(shí)，發(fā)現(xiàn)還有很多同學(xué)不了解浮點(diǎn)數(shù)計(jì)算的坑。

數(shù)值精度問(wèn)題引發(fā)的Bug一般難以發(fā)現(xiàn)，所以我們?cè)诠咎幚磉@方面的業(yè)務(wù)時(shí)一定要特別注意。

下面我們來(lái)具體看看這些問(wèn)題。

數(shù)值精度問(wèn)題

下面輸出的結(jié)果是 ture 還是 false ?

 public static void main(String[] args) {
      Double num1 = 0.15;
      Double num2 = 0.05;
      System.out.println(num1 % num2 == 0);
  }

正確答案是 false 。這是因?yàn)橛?jì)算機(jī)無(wú)法精確的保存浮點(diǎn)數(shù)，所以浮點(diǎn)數(shù)計(jì)算的結(jié)果也不可能精準(zhǔn)。

再來(lái)看一段代碼猜猜輸出結(jié)果。

public static void main(String[] args) {
    System.out.println(0.1+0.2);
    System.out.println(1.0-0.8);
    System.out.println(4.015*100);
    System.out.println(123.3/100);
}

輸出結(jié)果如下：

0.30000000000000004
0.19999999999999996
401.49999999999994
1.2329999999999999

輸出結(jié)果和我們預(yù)期的很不一樣，出現(xiàn)這種問(wèn)題的原因是因?yàn)橛?jì)算機(jī)是以二進(jìn)制存儲(chǔ)數(shù)值的，浮點(diǎn)數(shù)也不例外。Java采用了IEEE754標(biāo)準(zhǔn)實(shí)現(xiàn)浮點(diǎn)數(shù)的表達(dá)和運(yùn)算。

比如，0.1 的二進(jìn)制表示為 0.0 0011 0011 0011… （0011 無(wú)限循環(huán))，再轉(zhuǎn)換為十進(jìn)制就是 0.1000000000000000055511151231257827021181583404541015625。對(duì)于計(jì)算機(jī)而言，0.1 無(wú)法精確表達(dá)，這是浮點(diǎn)數(shù)計(jì)算造成精度損失的根源。

你可能會(huì)覺(jué)得，這種相差非常小不會(huì)對(duì)產(chǎn)生多大影響，但如果把損失的精度換算成金錢(qián)，每天有上百萬(wàn)交易，每次交易都差一分錢(qián)，一個(gè)月下來(lái)就是30萬(wàn)。

數(shù)值舍入問(wèn)題

下面這段代碼的輸出結(jié)果是什么？

public static void main(String[] args) {
    double num = 3.35;
    System.out.println(String.format("%.1f", num));
}

輸出結(jié)果

3.4

這就是由精度問(wèn)題和舍入方式共同導(dǎo)致的，double 3.35 其實(shí)相當(dāng)于 3.350xxx

String.format 采用四舍五入的方式進(jìn)行舍入，取 1 位小數(shù)，double 的 3.350 四舍五入為 3.4

解決方案

涉及到浮點(diǎn)數(shù)精確表達(dá)和運(yùn)算的場(chǎng)景，使用BigDecimal類(lèi)型。

但是注意在使用BigDecimal的時(shí)候也有幾個(gè)坑要避開(kāi)。

第一個(gè)坑：

使用 BigDecimal 表示和計(jì)算浮點(diǎn)數(shù)，務(wù)必使用字符串的構(gòu)造方法來(lái)初始化 BigDecimal。

  public static void main(String[] args) {
        System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
    }

輸出結(jié)果

0.3
0.3000000000000000166533453693773481063544750213623046875

第二個(gè)坑：

浮點(diǎn)數(shù)的字符串格式化也要通過(guò) BigDecimal 進(jìn)行。

   public static void main(String[] args) {
        double num = 3.35;
        System.out.println(String.format("%.1f", num));

        BigDecimal num1 = new BigDecimal("3.35");
        BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
        System.out.println(num2);
    }

輸出結(jié)果

3.4
3.3

總結(jié)

第一，要精確表示浮點(diǎn)數(shù)應(yīng)該使用 BigDecimal。并且使用 String 入?yún)⒌臉?gòu)造方法或者 BigDecimal.valueOf 方法來(lái)初始化。

第二，對(duì)浮點(diǎn)數(shù)做精確計(jì)算，參與計(jì)算的各種數(shù)值應(yīng)該始終使用 BigDecimal，所有的計(jì)算都要通過(guò) BigDecimal 的方法進(jìn)行，任何一個(gè)環(huán)節(jié)出現(xiàn)精度損失，最后的計(jì)算結(jié)果可能都會(huì)出現(xiàn)誤差。

第三，對(duì)于浮點(diǎn)數(shù)的格式化，建議使用 BigDecimal 來(lái)表示浮點(diǎn)數(shù)，并使用其 setScale 方法指定舍入的位數(shù)和方式。

補(bǔ)充：為什么會(huì)有精度問(wèn)題？

計(jì)算機(jī)處理數(shù)據(jù)都涉及到數(shù)據(jù)的轉(zhuǎn)換和各種復(fù)雜運(yùn)算，比如，不同單位換算，不同進(jìn)制(如二進(jìn)制十進(jìn)制)換算等，很多除法運(yùn)算不能除盡，比如10÷3=3.3333.。。。。。。無(wú)窮無(wú)盡，而精度是有限的，3.3333333x3并不等于10，經(jīng)過(guò)復(fù)雜的處理后得到的十進(jìn)制數(shù)據(jù)并不精確，精度越高越精確。float有8位有效數(shù)字，double有16位有效數(shù)據(jù)，float和double都是到大到一定的值自動(dòng)開(kāi)始使用科學(xué)計(jì)數(shù)法，并保留相關(guān)精度的有效數(shù)字，所以結(jié)果是個(gè)近似數(shù)。如果更精確的運(yùn)算小數(shù)(比如金融，數(shù)學(xué))，希望結(jié)果更符合預(yù)期值應(yīng)該使用Bigcimal。計(jì)算器應(yīng)該也會(huì)有精度問(wèn)題，也會(huì)有二進(jìn)制十進(jìn)制轉(zhuǎn)換。

java的雙精度和單精度的區(qū)別

現(xiàn)實(shí)問(wèn)題中不但有整型數(shù)值，還有小數(shù)。Java語(yǔ)言也提供了針對(duì)小數(shù)的存儲(chǔ)類(lèi)型，分別是float類(lèi)型和double類(lèi)型。

Java語(yǔ)言的浮點(diǎn)類(lèi)型有兩種不同的表示形式：十進(jìn)制數(shù)和科學(xué)計(jì)數(shù)法。十進(jìn)制數(shù)形式，由數(shù)字和小數(shù)點(diǎn)組成，且必須有小數(shù)點(diǎn)，如0.123、12.85、26.98等；科學(xué)計(jì)數(shù)法形式，如：2.1E5、3.7e-2等。其中e或E之前必須有數(shù)字，且e或E后面的指數(shù)必須為整數(shù)。

參考資料

• [2] BigDecimal 源碼
• [3]《數(shù)值計(jì)算》

到此這篇關(guān)于Java開(kāi)發(fā)常見(jiàn)錯(cuò)誤之?dāng)?shù)值計(jì)算精度和舍入問(wèn)題的文章就介紹到這了,更多相關(guān)Java數(shù)值計(jì)算精度和舍入問(wèn)題內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評(píng)論