[問題] c程式浮點運算

看板Programming作者 (NUE BLA)時間13年前 (2011/04/11 16:43), 編輯推噓1(1推 0噓 3→)
留言4則, 1人參與, 最新討論串1/1
43270.2/7200 在c程式運算 = 6.0097499999999995 (有誤差) 在小算盤運算 = 6.00975 (精確值) 我知道第一個結果是因為IEEE-754的原因所以有誤差 (43270.2無法用2進制完全表示) 請問小算盤是怎麼做到的? 在c程式如何像小算盤一樣算出精確值? -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 61.219.200.162
推
04/11 21:14, , 1F
沒小算盤的原始碼可能無法得知吧？不過可以自
04/11 21:14, 1F
→
04/11 21:15, , 2F
己想辦法做到相同的效果，例如用 long double
04/11 21:15, 2F
→
04/11 21:16, , 3F
或 big decimal 或另外分析被除數和除數，再
04/11 21:16, 3F
→
04/11 21:17, , 4F
做錯誤修正？
04/11 21:17, 4F
‣ 更多 MLP2007 的文章
文章代碼(AID): #1DehyTaL (Programming)