Re: [VB6 ] 要怎麼準確計算小數點?
看板Visual_Basic作者windknife18 (windknife18)時間16年前 (2009/05/06 13:50)推噓0(0推 0噓 1→)留言1則, 1人參與討論串2/2 (看更多)
根據該網站的建議，將以下程式寫在 button 內，執行後
在「即時運算視窗」確實是輸出
0.01
0.01
Dim a As Object, b As Object
Dim c As Decimal, d As Decimal
a = 12.55
b = 12.54
c = a
d = b
Debug.Print(CDec(a) - CDec(b))
Debug.Print(c - d)
※ 引述《jimpop (popmij)》之銘言：
: 我使用的是 VB 2005 不知道分類有沒有錯!?
: 最近在寫一個特別的計算機~
: 寫著寫著卻發現....
: 似乎小數點的計算有些問題~~
: 如:
: 12.55-12.54 應該是 0.01 !!
: 但是得到的答案是 0.0100000000000016
: !!!!!!!!!!!!!!!
: 怎麼會這樣~~~
: 爬過文後~發現~似乎一直存在這問題~~
: 有試過用網路上有篇的做法~
: http://tinyurl.com/cdddaz
: 但是....不知道是它的版本關係還是我弄錯~~
: 我還是會有嚴重的誤差值
: 想請問各位大大~~有沒有解決方法呢!!??
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.131.84.79
→
05/07 17:07, , 1F
05/07 17:07, 1F
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 2 之 2 篇)：