[問題] 相減的問題已回收

看板MATLAB作者ettoday70358 (186^_^)時間16年前 (2010/01/27 22:26)推噓4(4推 0噓 2→)

留言6則, 5人參與討論串1/1

我在workspace中把我的data點出來看假設 a=3 ; b=3 乍看之下 a==b的情況下 ans:1 但是我相減之後, 發現 a-b=10^-17 也就是a在matlab看起來是3, 但是實際上小數點後還有微小值請問有什麼方法可以消除a後面的小數點除了而外寫一些副程式去過濾data -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.121.136.217

推

panzertp

01/27 22:37, , 1^F

01/27 22:37, 1^F

推

tblu

01/27 22:42, , 2^F

01/27 22:42, 2^F

推

kelly16

01/27 23:12, , 3^F

01/27 23:12, 3^F