看板 [ Fortran ]
討論串[問題] 計算的精準度問題
共 6 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
2
下一頁
尾頁
#1
[問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者jyhchyunlu (jyhchyunlu)時間15年前 (2009/08/06 21:07), 編輯資訊
3
0
0
內容預覽:
各位板友好. 我碰上了一個很奇怪的問題. 是這樣的. 有三個變數 AL ALO E0 格式都是DOUBLE. ALO=1.000000000000000. AL 0.999999600000000. E0=(AL-ALO)/ALO. 答案應該是-4.000000000000000E-007. 但我跑
#2
Re: [問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者latinboy (暱稱)時間15年前 (2009/08/06 21:36), 編輯資訊
0
0
0
內容預覽:
浮點數常數會被編譯器自動默認為單精確度. 給值的時候把常數改成倍精確度浮點數表示法就可以解決. ALO = 1.000000000000000d0. AL = 0.999999600000000d0. --. ※ 發信站: 批踢踢實業坊(ptt.cc). ◆ From: 58.115.13.205.
#3
Re: [問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者UDP (阿貓)時間15年前 (2009/08/06 21:45), 編輯資訊
0
0
1
內容預覽:
察看宣告的時候AL ALO EO是否都是宣告成？. real*8::AL,ALO,EO. 給予數值時是否給予正確？. ALO = 1.D0. AL = 0.9999996D0. EO = (AL-ALO)/ALO. ----------------我是分隔線---------------------
#4
Re: [問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者jyhchyunlu (jyhchyunlu)時間15年前 (2009/08/06 22:29), 編輯資訊
1
0
0
內容預覽:
是這樣子的. 一開始有宣告這三個變數都是雙精度. 而ALO和AL都是由其他雙精度數值算出來的. 我會這麼寫是因為我印在檔案上看的. 不是我這樣給變數值. 不知道板友看不看得懂我在說什麼. --. ※ 發信站: 批踢踢實業坊(ptt.cc). ◆ From: 118.169.76.167.
#5
Re: [問題] 計算的精準度問題
推噓0(0推 0噓 0→)留言0則，0人參與, 最新作者UDP (阿貓)時間15年前 (2009/08/06 22:38), 編輯資訊
0
0
1
內容預覽:
這可能你要前後語法PO出來才會知道你錯在哪...... FORTRAN運算總是有你說的這種小毛病.... --. 廣告=>. http://goods.ruten.com.tw/item/show?11090702529994. --. ※ 發信站: 批踢踢實業坊(ptt.cc). ◆ From:
首頁
上一頁
1
2
下一頁
尾頁