[VB6 ] 關於>=運算式結果的問題

看板Visual_Basic作者 (ilovecurl)時間14年前 (2011/08/06 13:35), 編輯推噓1(102)
留言3則, 2人參與, 最新討論串1/1
我在EXCEL下寫 若我設定一個變數a = [P1],我在工作表中的P1輸入一個值假設是2.1 那判斷式 2.05 >= a - 0.05 為何會傳會false呢? 2.05 >= 2.05不是應該True嗎? 換個方式,若寫 a >= 2.1 卻是True沒錯,這讓我百思不得其解,是我哪裡觀念有誤呢? 請教各位先進,謝謝! -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 114.32.69.88

08/06 15:53, , 1F
浮點數精確度問題 可參考冼老師的文章
08/06 15:53, 1F

08/06 16:14, , 3F
太感謝拉,馬上看...不然想破頭也不知道
08/06 16:14, 3F
文章代碼(AID): #1EFDA4Qr (Visual_Basic)