討論串[問題] 請問如何 '較精確的' 轉換 float 到 do …
共 3 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓1(1推 0噓 2→)留言3則,0人參與, 最新作者supisces (被~~~切~~~八~~~段)時間13年前 (2012/04/05 11:11), 編輯資訊
0
0
0
內容預覽:
這篇已經有大大解答了,. 我想問的是 "七位有效值" 是怎麼得到的?. 我看到一個題目如下:. What number of digits that can be accurately stored. in a float (based on the IEEE Standard 754)?. 答案是

推噓5(5推 0噓 3→)留言8則,0人參與, 最新作者LPH66 (-858993460)時間15年前 (2010/10/24 19:42), 編輯資訊
0
0
0
內容預覽:
其實這是我們人用十進位觀點看的結果. 對電腦來說 以二進位來看的結果的確是你所要的樣子. ____. 拿 0.6 為例 它的二進位是 0.1001. 取到 24 bit 就是 0.100110011001100110011010. 這值的精確十進位是 0.6000000238418579101562
(還有696個字)

推噓4(4推 0噓 23→)留言27則,0人參與, 最新作者wahaha99 (此方不可長)時間15年前 (2010/10/24 13:57), 編輯資訊
0
0
0
內容預覽:
float 在超過本身的七位有效值後面仍然有一大串無效值,. 這點是本來就知道的, 但我發現在經過 double( ) 轉換後,. 這些無效值會被完完整整的搬過去。. 我現在想請教的是, 有沒有什麼方法, 可以把float搬過去的同時,. 把這些無效值去除掉。. 簡單來說就像是:. float do
(還有189個字)
首頁
上一頁
1
下一頁
尾頁