Re: [問題] MATLAB二進制問題已回收

看板MATLAB作者 (幹嘛要暱稱)時間15年前 (2010/03/28 00:10), 編輯推噓0(0推 0噓 0→)
留言0則, 0人參與, 最新討論串2/2 (看更多)
MATLAB自己有相關的說明 http://0rz.tw/uLDeP 主要原因 和浮點數是如何使用二進位紀錄有關 http://0rz.tw/PWqFD 第一頁有詳細的格式 還有例子 你們的問題主要在二三頁 ※ 引述《stealcut (阿yu)》之銘言： : t = 0.1 : n = 1:10 : e = n/10 - n*t : 理論上結果應該全為0 : 但實際上 : n = : 1 2 3 4 5 6 7 8 9 10 : e = : 1.0e-015 * : 0 0 -0.0555 0 0 -0.1110 -0.1110 0 0 0 : 為什麼只有3.6.7三數不等於0呢? : 煩請板上高手解惑 -- -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 58.115.142.131
‣ 更多 CCWck 的文章
文章代碼(AID): #1BhYtuvG (MATLAB)
‣ 更多 CCWck 的文章
文章代碼(AID): #1BhYtuvG (MATLAB)