[問題] decimal 運算結果不正確

看板C_Sharp作者 (tts)時間9年前 (2015/01/14 22:43), 9年前編輯推噓1(103)
留言4則, 3人參與, 最新討論串1/1
最近遇到個很奇怪的現象 假設程式碼為: decimal int_A = decimal.Parse("1000"); decimal int_B = 10; decimal report_num = int_A - int_B; label1.Text = report_num.ToString(); 1000與10只是舉例,A與B實際上都是0~10000以內的整數 (日後數值可能有小數點下2~3位,所以用decimal) 但運算結果(leabl1)偶爾會不正確,不是多1就是少1 但這不是Double型別才會有的現象嗎? 還是問題是出在str轉decimal呢? 還請高手指點,3Q -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 59.127.31.198 ※ 文章網址: https://www.ptt.cc/bbs/C_Sharp/M.1421246632.A.02F.html

01/15 12:38, , 1F
測試你的程式碼,沒遇到此問題,不過我是用 label1.Te
01/15 12:38, 1F

01/15 12:38, , 2F
xt = report_num.ToString();
01/15 12:38, 2F
感謝,原文漏掉Orz ,已經補上

01/15 12:52, , 3F
ToString 指定位數應該可以拿到比較精確的數字
01/15 12:52, 3F
感謝,有ToString,原文漏掉了 ※ 編輯: ttsmarco (59.127.31.198), 01/15/2015 15:45:57

01/27 09:39, , 4F
問題還未解決,請問還有什麼可能原因呢?
01/27 09:39, 4F
文章代碼(AID): #1Kje2e0l (C_Sharp)