※ 引述《etrexetrex (moonet)》之銘言：
: 對任意一個二進位無法表示的數
: 例如：2/5
: 在二進位會變成0.3999999999 (沒記錯的話)
: 然後使用所謂最簡單的方法會得到
: 3999999999
: -----------
: 10000000000
: 發現與一開始的 2/5 不相等，意思就是會有無法還原的問題。
我的想法是，這個問題必須先簡化，
因為電腦中存著的就是 0.3999999999...而不是 2/5
單看到 0.399999999..，我們也不能說他就一定是 0.4
所以只要定義個精準度，先四捨五入到那一位數即可。
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.114.78.239
討論串 (同標題文章)