十早•八羽 D:D
◆生活的感受 ◆知識的記錄
2009年7月18日 星期六
小數計算的問題
0.003+0.002+0.001=?
上面這個算式,我用javascript去執行計算回來的結果是0.0060000000001
會出現這樣的結果是因為資料結構天生的缺陷,要修正似乎只有用捨去的方法
是否有更準確的方法呢?
沒有留言:
張貼留言
較新的文章
較舊的文章
首頁
訂閱:
張貼留言 (Atom)
沒有留言:
張貼留言