看板 [ Cad_Cae ]
討論串[請益] 請教AutoCAD 1.255問題
共 3 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#1
[請益] 請教AutoCAD 1.255問題
推噓3(3推 0噓 4→)留言7則，0人參與, 最新作者comelin99 (jason)時間8年前 (2016/05/24 14:48), 8年前編輯資訊
1
0
0
內容預覽:
小弟最近發現一個問題. 問題如下. (< (* 100 1.255 ) 125.5) → T ????. (= (* 100 1.355 ) 135.5) → T ????. 1.255乘100小於125.5. 1.355甚至其他數都不會有這個問題. 驗算後發現以下問題. (setq a (+ (*
(還有229個字)
#2
Re: [請益] 請教AutoCAD 1.255問題
推噓0(0推 0噓 1→)留言1則，0人參與, 最新作者ottoli (歐特力)時間8年前 (2016/05/24 22:40), 編輯資訊
0
0
3
內容預覽:
我猜可能是浮點數的使用造成運算上有微小誤差. 至於為什麼其他小數都可以正常顯示為0, 就1.255不行. 我也不知道原因. 也許你可以到Fortran版或其他程式語言版問看看. 那裏有人有在接觸AutoLisp的撰寫. 例如Fortran版的sjgau. 關於浮點數可以參考下列連結:. https:
(還有144個字)
#3
Re: [請益] 請教AutoCAD 1.255問題
推噓1(1推 0噓 0→)留言1則，0人參與, 最新作者sjgau (sjgau)時間8年前 (2016/05/25 10:10), 編輯資訊
0
0
1
內容預覽:
分享個人的經驗. 整數的運算結果，絕對沒有誤差。. 浮點數的運算結果，一定會有誤差。. double x= 123.456;. 儲存在 x 裡面的二進位表示，分別為. 一個bit, 表示x的 +/-. 11 個bits, 表示x 的二進位次方的數量級. 52個bits , 表示 x 的 0.5 -
(還有381個字)
首頁
上一頁
1
下一頁
尾頁