FLOP 計算

看板Math作者 (wgene)時間4年前 (2021/02/13 14:37), 4年前編輯推噓2(2推 0噓 2→)
留言4則, 2人參與, 4年前最新討論串1/1
請問一下 精確度是3 digits (比如:1.00), 以十進位表示數字(比如0.1=1.00*10^-1) 現在 T1=T2=T3=....=T100=1, T101=2100 為什麼 T1+T2+...+T100+T101=2200 然後 T101+T1+T2+...+T100=2100 謝謝! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 100.36.131.156 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Math/M.1613198257.A.02B.html ※ 編輯: wgene (100.36.131.156 美國), 02/13/2021 14:38:40
推
02/13 14:47, 4年前 , 1F
T101+T1=2100，繼續加到T100還是2100
02/13 14:47, 1F
→
02/13 14:49, 4年前 , 2F
T1+...+T100=100，100+2100=2200
02/13 14:49, 2F
→
02/13 14:51, 4年前 , 3F
精確度只有3位數，1001取3位數，只能是1000
02/13 14:51, 3F
推
02/13 16:58, 4年前 , 4F
你都寫科學記號了, 回想一下科學記號運算的特點
02/13 16:58, 4F
‣ 更多 wgene 的文章
文章代碼(AID): #1W9tEn0h (Math)