[問題] MATLAB二進制問題已回收

看板MATLAB作者 (阿yu)時間15年前 (2010/03/26 17:44), 編輯推噓0(005)
留言5則, 4人參與, 最新討論串1/2 (看更多)
t = 0.1 n = 1:10 e = n/10 - n*t 理論上結果應該全為0 但實際上 n = 1 2 3 4 5 6 7 8 9 10 e = 1.0e-015 * 0 0 -0.0555 0 0 -0.1110 -0.1110 0 0 0 為什麼只有3.6.7三數不等於0呢? 煩請板上高手解惑 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 122.126.161.48

03/26 18:05, , 1F
跟二進制有何關係?況且這個題目幾天前才有人問過而已...
03/26 18:05, 1F

03/26 21:37, , 2F
6750篇 我想兩位應該是同學吧XD
03/26 21:37, 2F

03/27 00:38, , 3F
我們就是不懂才提出疑問,並非要判斷式去處理,只需要解釋
03/27 00:38, 3F

03/27 00:40, , 4F
為什麼它的結果會是這樣?還有請高手解惑,感恩
03/27 00:40, 4F

03/28 00:43, , 5F
看來是系主任的MATLAB
03/28 00:43, 5F
文章代碼(AID): #1Bh87_PZ (MATLAB)
文章代碼(AID): #1Bh87_PZ (MATLAB)