[問題] c程式浮點運算
開發平台(Platform): (Ex: VC++, GCC, Linux, ...)
vc++
問題(Question):
43270.2/7200
在c程式運算 = 6.0097499999999995 (有誤差)
在小算盤運算 = 6.00975 (精確值)
我知道第一個結果是因為IEEE-754的原因所以有誤差 (43270.2無法用2進制完全表示)
請問小算盤是怎麼做到的? 在c程式如何像小算盤一樣算出精確值?
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 61.219.200.162
→
04/11 17:01, , 1F
04/11 17:01, 1F
→
04/11 17:08, , 2F
04/11 17:08, 2F
推
04/11 17:11, , 3F
04/11 17:11, 3F
推
04/11 17:22, , 4F
04/11 17:22, 4F
→
04/11 17:23, , 5F
04/11 17:23, 5F
推
04/11 20:21, , 6F
04/11 20:21, 6F
→
04/11 20:42, , 7F
04/11 20:42, 7F