討論串[問題] 座標於IEEE754中變動所造成失真率
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁

推噓1(1推 0噓 2→)留言3則,0人參與, 最新作者LPH66 (杇瑣)時間13年前 (2013/01/03 18:57), 編輯資訊
0
0
0
內容預覽:
把 IEEE 表示法理解成科學記號會好懂一點. 以 float 為例 它的 mantissa (你所謂的 fraction bits) 是 23 bit. 這代表在這個科學記號 1.xxxxxxx*2^exp 當中 後面的 xxx 有 23 位二進位. 因此它的最後 9 個 bit 就是小數點後第
(還有365個字)

推噓1(1推 0噓 0→)留言1則,0人參與, 最新作者kuku321 (halipapon)時間13年前 (2013/01/03 13:53), 編輯資訊
0
0
0
內容預覽:
開發平台(Platform): C++. 額外使用到的函數庫(Library Used): OpenGL. 問題(Question):. 不太知道IEEE754的問題該去哪問,如果不符版旨請告知. 我再看要移去數學版還是哪邊,不過好像也不是該拿去數學版的問題orz. 我的程式功能會在一個浮點數中的尾
(還有245個字)
首頁
上一頁
1
下一頁
尾頁