看板 [ MATLAB ]
討論串[問題] 請教高手關於數字的誤差
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#2
Re: [問題] 請教高手關於數字的誤差已回收
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者WC (Without Charge)時間17年前 (2009/02/12 07:42), 編輯資訊
0
0
3
內容預覽:
1-0.2-0.2-0.2-0.2-0.2. 也是一樣. 在經過 google 一下後我找了三個網站, 有兩個是 Matlab 的員工. http://blogs.mathworks.com/loren/2006/08/23/a-glimpse-into-floating-point-accurac
(還有2253個字)
#1
[問題] 請教高手關於數字的誤差已回收
推噓1(1推 0噓 0→)留言1則，0人參與, 最新作者pow (體脂肪35%)時間17年前 (2009/02/11 21:27), 編輯資訊
0
0
0
內容預覽:
我在我的Matlab 7.4.0(R2007a)裡面輸入. >> 0.01+0.01+0.01-0.03. ans =. 0. 可是我輸入. >> 0.1+0.1+0.1-0.3. ans =. 5.5511e-017. 我以為跟原本數字的小數點位數有關係. 可是當我輸入. >>. 0.025+0.
(還有79個字)
首頁
上一頁
1
下一頁
尾頁