看板 [ C_and_CPP ]
討論串[問題] 浮點數的殘值
共 3 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#3
Re: [問題] 浮點數的殘值
推噓1(1推 0噓 0→)留言1則，0人參與, 最新作者sjgau (sjgau)時間16年前 (2009/11/12 15:36), 編輯資訊
0
0
0
內容預覽:
以下，我使用 VC++ 6.0. compile 的時候有 warning. /*. Compiling.... VC0331.CPP. d:\vc0331\vc0331.cpp(6) : warning C4305: 'initializing' : truncation from. 'const
(還有301個字)
#2
Re: [問題] 浮點數的殘值
推噓8(8推 0噓 7→)留言15則，0人參與, 最新作者LPH66 ((short)(-15074))時間16年前 (2009/11/12 15:33), 編輯資訊
0
0
0
內容預覽:
其實不是殘值. 是被切掉的二進位所代表的誤差值. 例如 0.123 好了 它的二進位是 0.00011111011111001110110110010001011.... \_____ 這裡一共24位 ____/. 如果我只要二進位小數有效位數24位. (和 float 一樣; 為何不是23位是標準
(還有516個字)
#1
[問題] 浮點數的殘值
推噓0(0推 0噓 1→)留言1則，0人參與, 最新作者TIME1987 (把握當下)時間16年前 (2009/11/12 15:08), 編輯資訊
0
0
0
內容預覽:
遇到的問題：float與double在位數上的不同. #include <stdio.h>. int main(). {. float num1=123.456789012345;. double num2=123.456789012345;. printf("num1=%16.12f\n",num
(還有213個字)
首頁
上一頁
1
下一頁
尾頁