[問題] 小數點某位數後去掉已回收

看板MATLAB作者 (BBS)時間15年前 (2010/09/11 23:35), 編輯推噓3(3推 0噓 5→)
留言8則, 4人參與, 最新討論串1/2 (看更多)
小數點後某位數都去掉 有這個指令嗎 因為在做運算時有時候顯示 a=4.1011 但實際若用4.1011去比較 a 則是不相等的 有辦法將a小數點五位數之後 或是某位數之後全部拿掉嗎 不然每次比較都是不等於蠻困擾的 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.113.106.203
推
09/12 01:02, , 1F
只顯示 a=4.1011，後面沒顯示出來，這個可以設定
09/12 01:02, 1F
→
09/12 01:03, , 2F
至於把某位數後面全部拿掉 a=floor(a*10^4)/10^4 即可
09/12 01:03, 2F
→
09/12 13:38, , 3F
感謝big大的技巧分享
09/12 13:38, 3F
推
09/12 15:55, , 4F
也可以先用vpa 在用double
09/12 15:55, 4F
→
09/13 23:21, , 5F
突然發現1F方法有bug 運算後有時會被省略數字
09/13 23:21, 5F
→
09/13 23:29, , 6F
http://ppt.cc/Boa7 跑出來像這樣
09/13 23:29, 6F
推
09/13 23:51, , 7F
這叫numerical error吧
09/13 23:51, 7F
→
09/13 23:55, , 8F
恩 爬文/floor 有人有類似情況 難道真的只能寫function來避免
09/13 23:55, 8F
‣ 更多 stma 的文章
文章代碼(AID): #1CYw6pX- (MATLAB)
‣ 更多 stma 的文章
文章代碼(AID): #1CYw6pX- (MATLAB)