Re: [VB6 ] 關於數值計算

看板Visual_Basic作者 (小獅子)時間19年前 (2005/07/23 21:57), 編輯推噓1(1推 0噓 0→)
留言1則, 1人參與, 最新討論串2/2 (看更多)
※ 引述《BigLittle (栗頭)》之銘言： : 手上有個題目 : 我用fortran和vb6來計算 : 使用相同的計算流程之計算數值不太一樣(誤差不能接受) : 兩種程式都是採用雙精制 : 請問這是怎麼一回事呢? : 何者較為可靠? 經過試驗 double vb 可表示到 2 的 -21 次方 vc 可表示到 2 的 -24 次方 float(single) vb 可表示到 2 的 -17 次方 vc 可表示到 2 的 -24 次方 (以上，更小的數會被捨棄=四捨五入) -- VB 程式設計 倉木麻衣 PTT 星爺板 行列輸入法 ====================================================== Visual_Basic MaiKuraki Stephen Array -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 210.58.156.43
推
218.166.162.52 07/24, , 1F
謝謝你的參考~
218.166.162.52 07/24, 1F
‣ 更多 fumizuki 的文章
文章代碼(AID): #12uap9cS (Visual_Basic)
‣ 更多 fumizuki 的文章
文章代碼(AID): #12uap9cS (Visual_Basic)