[問題] 小數乘法已回收

看板MATLAB作者 (傷心人)時間15年前 (2010/07/16 16:33), 編輯推噓3(3推 0噓 6→)
留言9則, 4人參與, 最新討論串1/1
程式debug好久 終於發現問題 誰來告訴我 為什麼 1.5*0.8-1.2 不等於0 我用過Matlab 7.1 2007 2010a 結果都一樣 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.112.4.191 ※ 編輯: diva 來自: 140.112.4.191 (07/16 16:36)
推
07/16 16:50, , 1F
浮點運算的誤差....這個計概課本就會講了
07/16 16:50, 1F
→
07/16 16:51, , 2F
你用C寫一樣不會等於0
07/16 16:51, 2F
→
07/16 17:32, , 3F
科學記號精確度的問題，事先設定好儲存值得精確度 可改善
07/16 17:32, 3F
→
07/16 17:33, , 4F
或是運算好後，取ceil
07/16 17:33, 4F
→
07/16 17:45, , 5F
#1BhYtuvG (MATLAB) 之前有人問過
07/16 17:45, 5F
推
07/17 03:41, , 6F
三樓，設定那個只是讓你看不出來有差而已
07/17 03:41, 6F
→
07/17 03:42, , 7F
實際上就是不會等於0，這是因為二進位小數運算產生的誤差
07/17 03:42, 7F
→
07/17 05:42, , 8F
use sym to solve it
07/17 05:42, 8F
推
07/17 13:01, , 9F
恩~是的 我錯了
07/17 13:01, 9F
‣ 更多 diva 的文章
文章代碼(AID): #1CG1bRWQ (MATLAB)