[問題] 計算的精準度問題
各位板友好
我碰上了一個很奇怪的問題
是這樣的
有三個變數 AL ALO E0 格式都是DOUBLE
ALO=1.000000000000000
AL 0.999999600000000
E0=(AL-ALO)/ALO
答案應該是-4.000000000000000E-007
但我跑出來的結果卻是 E0 =-4.000000000115023E-007
請問是哪邊出錯了呢
看似差一點點而已
但代入往後的計算中
這誤差會影響答案
想請問板友問題出在哪
感謝板友的回答
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 118.169.76.167
討論串 (同標題文章)
以下文章回應了本文 (最舊先)：
完整討論串 (本文為第 1 之 6 篇)：