Re: [問題] 計算的精準度問題
是這樣子的
一開始有宣告這三個變數都是雙精度
而ALO和AL都是由其他雙精度數值算出來的
我會這麼寫是因為我印在檔案上看的
不是我這樣給變數值
不知道板友看不看得懂我在說什麼
※ 引述《jyhchyunlu (jyhchyunlu)》之銘言：
: 各位板友好
: 我碰上了一個很奇怪的問題
: 是這樣的
: 有三個變數 AL ALO E0 格式都是DOUBLE
: ALO=1.000000000000000
: AL 0.999999600000000
: E0=(AL-ALO)/ALO
: 答案應該是-4.000000000000000E-007
: 但我跑出來的結果卻是 E0 =-4.000000000115023E-007
: 請問是哪邊出錯了呢
: 看似差一點點而已
: 但代入往後的計算中
: 這誤差會影響答案
: 想請問板友問題出在哪
: 感謝板友的回答
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 118.169.76.167
討論串 (同標題文章)