Re: [VB6 ] 其實是很新手的問題....
※ 引述《A1pha ([αλφα])》之銘言:
: 標題: [VB6 ] 其實是很新手的問題....
: 時間: Sat Nov 11 19:13:11 2006
:
: 我寫了一個這樣的東西...
: Y = 0.05
: X = 0.76 + Val(txt_percentage) / 100 + Y
:
: Print X, 0.76, Val(txt_percentage)/100, Y
:
: 假設Val(txt_percentage)/100 = 0.03
: 為什麼印出來的東西會是:
: 0.840000000745058
: 0.76
: 0.03
: 0.05
:
: 那個X的值是怎麼搞的....怎麼不是0.76+0.03+0.05 = 0.84 ?
:
: ※ 發信站: 批踢踢實業坊(ptt.cc)
: ◆ From: 124.8.85.6
: 推 LPH66:浮點數精確度 11/11 20:18
: 推 fumizuki:所有電腦共同的精確度問題 11/11 20:51
: → fumizuki:務必要限制小數點第幾位...Round(X, 2) 11/11 20:52
為什麼會有這樣的問題啊?
精確度問提是指說電腦也是會有「誤差」的嗎?
像是人用一把尺畫三公分的線,永遠不會是準的3公分這樣?
還有,為什麼同樣是運算,
Val(txt_percentage)/100印出來就會是3/100=0.03
而不是0.03000000745058之類的?
感謝解答<(_ _)>
--
從睡夢中蘇醒的少女 發現自己被一群身上長有翅膀
頭上有光環的少女們圍繞著
這裡… 不是天國 她們… 不是天使
身上長著灰色的翅膀,卻無法飛翔
這是個 被遺忘的國度...
她們是誰 她們自已也不知道…… 找尋著記憶,也找尋著自己… 《灰羽連盟》
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 124.8.85.6
討論串 (同標題文章)