javascript中的float運算精度實例分析
更新時間:2010年08月21日 15:17:41 作者:
javascript中的float運算精度的一些問題,下面是具體的說明。
有人問到一個js問題:
var i = 0.07;
var r = i*100;
alert(r);
結果為什么是7.0000000000000001?
查了下資料,其實我們知道JavsScript中,變量在存儲時并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標準定義的64bit浮點格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數(shù)部分長度為16,所以默認的計算結果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標志。
類似地,我們可以想像,1/3的結果應該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
復制代碼 代碼如下:
var i = 0.07;
var r = i*100;
alert(r);
結果為什么是7.0000000000000001?
查了下資料,其實我們知道JavsScript中,變量在存儲時并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標準定義的64bit浮點格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數(shù)部分長度為16,所以默認的計算結果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標志。
類似地,我們可以想像,1/3的結果應該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
復制代碼 代碼如下:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
相關文章
基于BootstrapValidator的Form表單驗證(24)
這篇文章主要為大家詳細介紹了基于BootstrapValidator的Form表驗證,具有一定的參考價值,感興趣的小伙伴們可以參考一下2016-12-12
JS實現(xiàn)多級菜單中當前菜單不隨頁面跳轉樣式而發(fā)生變化
本文介紹了JQuery巧妙實現(xiàn)多級菜單中當前菜單不隨頁面跳轉樣式發(fā)生變化,實現(xiàn)方法非常簡單,感興趣的朋友一起看看吧2017-05-05

