看板 [ Soft_Job ]
討論串[請益] 如何直接判斷浮點數運算時有誤差(贈P幣)
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#1
[請益] 如何直接判斷浮點數運算時有誤差(贈P幣)
推噓8(8推 0噓 7→)留言15則，0人參與, 5年前最新作者baobao566 (寶寶)時間5年前 (2018/11/30 19:55), 5年前編輯資訊
0
0
4
內容預覽:
技藝競賽剩3天，太晚上來問了...能解決問題者贈上全部家產稅前350P。. 為了這個問題困擾了許久，不斷地查資料，查完這個觀念，又看到新. 的名詞與此題有關聯。以我查到的資料VB.Net在浮點數運算時會將數. 字以IEEE754來標準來做，預設的浮點數型態是Double，所以是64位，. 有誤差是因
(還有1179個字)
#2
Re: [請益] 如何直接判斷浮點數運算時有誤差(贈P幣)
推噓5(5推 0噓 5→)留言10則，0人參與, 5年前最新作者oopFoo (3d)時間5年前 (2018/12/02 21:35), 5年前編輯資訊
0
0
3
內容預覽:
你已經知道答案了，但你可能還不知道原理。. round "half" to nearest even. 又稱gaussian/banker's rounding.. 例子. round[{0.5, 1.5, 2.5, 3.5, .5}] =>{0, 2, 2, 4, 4}. 為什麼呢？因為四捨五入是
(還有796個字)
首頁
上一頁
1
下一頁
尾頁