作者查詢 / detecter

總覽項目： 發文 | 留言 | 暱稱
作者 detecter 在 PTT [ Visual_Basic ] 看板的留言(推文), 共3則
限定看板：Visual_Basic
看板排序：
全部Statistics18CFAiafeFSA6Visual_Basic3Gamesale2Gossiping2CareerPlan1CarShop1CMWang1Examination1FCU_MOT1FHSH-89-3161graduate1HLHS_10thU1home-sale1Lifeismoney1mobilesales1NCTU-STAT95G1<< 收起看板(17)
首頁
上一頁
1
下一頁
尾頁
[VBA ] 數值計算誤差問題
[ Visual_Basic ]7 留言, 推噓總分: +2
作者: detecter - 發表於 2013/08/03 01:01(12年前)
3F→detecter:主要是a的結果OK，但是減1以後就會有誤差產生..08/04 00:25
4F→detecter:最麻煩的是如果b要round到小數第七位會跟預期不符..08/04 00:37
6F→detecter:原本預期b是0.0455063，但實際上b卻是0.045506208/05 22:42
首頁
上一頁
1
下一頁
尾頁