淺談iOS 關(guān)于小數(shù)精確計算(NSDecimalNumber)
做了好一段時間的金融產(chǎn)品,對數(shù)字是要非常敏感,差個零點零幾都不行,精確度是要非常重視的,將后臺傳給我的floatValue轉(zhuǎn)成NSString,一直沒發(fā)現(xiàn)問題,最近項目有關(guān)個人賬戶的資產(chǎn)顯示,發(fā)現(xiàn)總是和web和android有點誤差,百思不得其解,在Stack Overflow上面問了一下,發(fā)現(xiàn)了NSDecimalNumber這個API,這個類為OC程序提供定點算法功能,它被設(shè)計不會損失精度并且可預(yù)先設(shè)置湊整規(guī)則的10進(jìn)制計算,它比浮點數(shù)更好去表達(dá)貨幣,作為代價,它的計算相對復(fù)雜,相對耗時。
舉個栗子:
float a = 0.01; int b = 99999999; double c = 0.0; c = a * b; NSLog(@"%f",c); NSLog(@"%.2f",c);
2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.000000
2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.00
明顯已經(jīng)已經(jīng)失真了。
那么我們換個類型,把精度調(diào)高,會不會好點呢?
c = a*(double)b; NSLog(@"%f",c); NSLog(@"%.2f",c);
然并卵,
2017-08-02 16:16:32.293 DecimalNumber[3144:167125] 999999.967648
2017-08-02 16:16:32.294 DecimalNumber[3144:167125] 999999.97
這都是什么鬼,數(shù)學(xué)白學(xué)了。
最后想到了一個方法,我把它轉(zhuǎn)成了字符串,然后再轉(zhuǎn)成double類型,沒想到精度就達(dá)到要求了
NSString *aString = [NSString stringWithFormat:@"%.2f", a]; NSString *bSting = [NSString stringWithFormat:@"%.2f", (double)b]; c = [aString doubleValue] * [bString doubleValue]; NSLog(@"%.2f",c);
2017-08-02 16:27:32.590 DecimalNumber[3252:172900] 999999.99
不過看起來有點別扭,轉(zhuǎn)過來轉(zhuǎn)過去的就不說了,一看感覺感覺不專業(yè)。下面通過NSDecimalNumber提供計算方式,這是官方建議的貨幣計算API,精確度比較高,對乘除計算都有單獨的接口提供。
NSDecimalNumber *decimalNumber1 = [NSDecimalNumber decimalNumberWithString:aString]; NSDecimalNumber *decimalNumber2 = [NSDecimalNumber decimalNumberWithString:bString]; NSDecimalNumber *result = [decimalNumber1 decimalNumberByMultiplyingBy:decimalNumber2]; NSLog(@"%@",result);
2017-08-02 16:35:32.779 DecimalNumber[3369:177485] 999999.99
這樣看起來就舒服多了,精確度也得到了滿足
在對于貨幣的計算顯示,要時刻注意精度的問題。優(yōu)先選用此API,下面是官方的說明NSDecimalNumber
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
iOS開發(fā)中Date Picker和UITool Bar控件的使用簡介
這篇文章主要介紹了iOS開發(fā)中Date Picker和UITool Bar控件的使用簡介,代碼基于傳統(tǒng)的Objective-C,需要的朋友可以參考下2016-01-01講解iOS開發(fā)中UITableView列表設(shè)計的基本要點
這篇文章主要介紹了講解iOS開發(fā)中UITableView列表設(shè)計的基本要點,其中對列表行操作的常用操作舉例是iOS開發(fā)中經(jīng)常用到的基礎(chǔ),需要的朋友可以參考下2016-01-01