[問題] 有關truncation error

看板Programming作者wa007123456 (大笨羊)時間9年前 (2014/10/28 20:32)推噓3(3推 0噓 4→)

留言7則, 2人參與討論串1/1

最近在讀計概有一塊地方我不是很清楚那就是"捨位誤差"(truncation error) 比如說0.3好了(十進位) 0.01001 用定點數來看假設8bit的數字 bit4~7表示小數得小數部分0.1001 (二進位) 但因超過4digit( 8 digit 代表正負) 經過捨位變成 0100 而這裡就是我想問的第五位是1 為什麼不可以進位成0101 而是 0100 呢? 感謝回答! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.128.194.56 ※ 文章網址: http://www.ptt.cc/bbs/Programming/M.1414499570.A.845.html

推

s25g5d4

10/28 21:22, , 1^F

10/28 21:22, 1^F

推

s25g5d4

10/28 21:25, , 2^F

10/28 21:25, 2^F

→

s25g5d4

10/28 21:25, , 3^F

10/28 21:25, 3^F