[理工] 計組 IEEE754

看板Grad-ProbAsk作者 (codown)時間11年前 (2012/11/11 13:09), 編輯推噓1(1推 0噓 2→)
留言3則, 2人參與, 最新討論串1/1
Converting an integer variable to a single precision FP number will lose precision. 答案給的是:true 我疑惑的是整數變數並沒有小數,照理說不會被捨棄才對 還是我哪邊誤解的題目的意思了?? -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 114.43.62.213
推
11/11 13:26, , 1F
整數有效位數是31 bit,化成浮點數後要花一些在次方上,以單精
11/11 13:26, 1F
→
11/11 13:26, , 2F
度而言剩小數點後23位有效了,故有些會被捨棄
11/11 13:26, 2F
→
11/11 13:38, , 3F
!!我懂了 謝謝:)
11/11 13:38, 3F
‣ 更多 BaaaSwin 的文章
文章代碼(AID): #1GdpCK5l (Grad-ProbAsk)