[問題]floating point轉fixed point

看板MATLAB作者nc23nick (尼克林)時間8年前 (2016/01/12 14:12)推噓2(2推 0噓 3→)

留言5則, 2人參與討論串1/1

各位前輩大大好，小弟新手遇到floating point轉fixed point問題拜讀先前學長留下資料 fixed_point=(fix(d*2^k))/2^k ; % k為小數點位數倘若小數點預計取三位，下面範例運算完結果 -1.125~=110.110 (-1.125=110.111) 想請教各位前輩為什麼結果二邊不相等呢? ex. Decimal Binary -1.135456 110.1101110101........ x2^3 x1000 -9.083648 110110.1110101........ fix(-9.083648)=-9 fix(110110.1110101........)=110110 /2^3 /1000 -1.125 110.110 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.120.90.130 ※ 文章網址: https://www.ptt.cc/bbs/MATLAB/M.1452579171.A.FF2.html

推

sunev

01/12 22:17, , 1^F

01/12 22:17, 1^F

→

nc23nick

01/13 12:44, , 2^F

01/13 12:44, 2^F

→

nc23nick

01/13 12:45, , 3^F

01/13 12:45, 3^F