[算表] 有趣的一個現象~~

看板Office作者時間15年前 (2009/03/30 22:39), 編輯推噓5(5推 0噓 6→)
留言11則, 5人參與, 最新討論串1/1
軟體:excel 版本:2003 當在A1輸入2，A2輸入1.9；緊接著將A1和A2都選取起來，點選右下角之黑十字拖曳至 A40，會發現一排整齊的等差數列，這是沒問題的。 但問題是... 重複剛剛的步驟，但在A1輸入20，A2輸入19.9，有趣的事情來了~~乍看之下好像也是 合理的等差數列~~但是點選A40，赫然發現!!!!!!竟然是"16.09999999999" 整個很囧 不知道是不是大家都知道的事情~~ 但這就是害我弄一個下午的鳥問題，害我用sumif，vlookup都找不到我要的..@@ -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.112.23.160
推
03/31 03:13, , 1F
A40 16.0 維大力?
03/31 03:13, 1F
→
03/31 03:14, , 2F
16.1 更正
03/31 03:14, 2F
→
03/31 03:14, , 3F
疑...
03/31 03:14, 3F
→
03/31 03:17, , 4F
先說聲對不起 因為我用 整數 小數點1位 一樣 怪哉...
03/31 03:17, 4F
推
03/31 06:05, , 5F
有啊 常常會發現拉到0的時候不是0
03/31 06:05, 5F
→
03/31 06:06, , 6F
然後剛好畫圖不會爆掉 XDD
03/31 06:06, 6F
推
03/31 16:21, , 7F
還以為是要說隱藏遊戲 XD
03/31 16:21, 7F
推
03/31 17:43, , 8F
我把小數拉到13位數才發現...
03/31 17:43, 8F
推
04/01 00:17, , 9F
有小數點的數字通常都是用浮點數去記錄
04/01 00:17, 9F
→
04/01 00:18, , 10F
浮點數的表示方法會有微小的誤差，通常在容許範圍內
04/01 00:18, 10F
→
04/01 00:18, , 11F
浮點數似乎沒有0，所以0一定會出錯
04/01 00:18, 11F
‣ 更多 aquariusleo 的文章
文章代碼(AID): #19qDcl6- (Office)