[VBA ]textbox問題

看板Visual_Basic作者 (..)時間16年前 (2009/09/21 22:35), 編輯推噓1(1推 0噓 1→)
留言2則, 2人參與, 最新討論串1/2 (看更多)
想問ㄧ下 我用vba做出表單 表單上有textbox1 textbox2 想在excel輸出 textbox1-textbox2 dim t1 as single dim t2 as single t1=textbox1 t2=textbox2 但是數值一直會帶很奇怪的小數 例如 266.3-266.0 會是0.29998779296875 不知道是什麼原因? -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 202.39.223.6
→
09/21 23:29, , 1F
這很正常。你可用format()限制精度避免這個問題。
09/21 23:29, 1F
推
09/22 21:28, , 2F
電腦是2進位儲存資料，2進位無法整除所以會出現無窮小數
09/22 21:28, 2F
‣ 更多 mmh 的文章
文章代碼(AID): #1AjuyUbM (Visual_Basic)
‣ 更多 mmh 的文章
文章代碼(AID): #1AjuyUbM (Visual_Basic)