[討論] 轉型計算問題

看板Database作者 (LaPass)時間10年前 (2015/02/13 15:44), 編輯推噓0(0推 0噓 3→)
留言3則, 1人參與, 最新討論串1/1
http://i.imgur.com/gAMcmxa.jpg
SELECT '0.940'*5000*10,0.940*10*5000,'0.940'*10*5000 為什麼只有 '0.940'*10*5000 會差那一點點？ 版本： MySQL 5.6.20 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.163.219.211 ※ 文章網址: https://www.ptt.cc/bbs/Database/M.1423813445.A.F98.html
→
02/13 16:13, , 1F
02/13 16:13, 1F
→
02/15 02:45, , 2F
找到原因了，'0.940'會被轉成浮點數，有浮點誤差
02/15 02:45, 2F
→
02/15 02:46, , 3F
直接給0.940會被當成十進制精準的處理方式
02/15 02:46, 3F
‣ 更多 LaPass 的文章
文章代碼(AID): #1KtQj5-O (Database)