[討論] 數值方面的問題

看板MATLAB作者SAngelWing (涼涼的風)時間11年前 (2013/01/13 03:48)推噓0(0推 0噓 4→)

留言4則, 4人參與討論串1/1

請問一下，怎麼得到正確的值因為程式用到這個值，遇到了這奇怪的問題 >> floor(120e-9*1e9) ans = 119 這是什麼造成的？？？有沒有解決的方法同樣的 >> floor(120e-15*1e15) ans = 120 試了其他的就沒有這個問題，好怪... -- -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 36.237.70.147

→

math99

01/13 10:08, , 1^F

01/13 10:08, 1^F

→

vaakaa

01/13 10:30, , 2^F

01/13 10:30, 2^F

→

H45

01/13 13:06, , 3^F

01/13 13:06, 3^F