討論串[問題] 座標於IEEE754中變動所造成失真率
共 2 篇文章
首頁
上一頁
1
下一頁
尾頁
內容預覽:
把 IEEE 表示法理解成科學記號會好懂一點. 以 float 為例 它的 mantissa (你所謂的 fraction bits) 是 23 bit. 這代表在這個科學記號 1.xxxxxxx*2^exp 當中 後面的 xxx 有 23 位二進位. 因此它的最後 9 個 bit 就是小數點後第
(還有365個字)
內容預覽:
開發平台(Platform): C++. 額外使用到的函數庫(Library Used): OpenGL. 問題(Question):. 不太知道IEEE754的問題該去哪問,如果不符版旨請告知. 我再看要移去數學版還是哪邊,不過好像也不是該拿去數學版的問題orz. 我的程式功能會在一個浮點數中的尾
(還有245個字)
首頁
上一頁
1
下一頁
尾頁