[問題] 如何於除法取到小數42位數?
python內建型別decimal看說明最多可以存到小數後17位,
測試過,十七位後的數字都會是亂數
在這樣的情況下該怎麼取得17位以後的精確數字呢?
我使用的實驗數字是
Decimal(156/283)
計算機算的答案:
0.55123674911660777385
python的答案:
0.55123674911660780484
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.105.26.14
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1518321196.A.2BE.html
推
02/11 12:15,
6年前
, 1F
02/11 12:15, 1F
→
02/11 12:16,
6年前
, 2F
02/11 12:16, 2F
→
02/11 12:16,
6年前
, 3F
02/11 12:16, 3F
→
02/11 12:17,
6年前
, 4F
02/11 12:17, 4F
推
02/11 12:17,
6年前
, 5F
02/11 12:17, 5F
→
02/11 12:18,
6年前
, 6F
02/11 12:18, 6F
→
02/11 12:18,
6年前
, 7F
02/11 12:18, 7F
→
02/11 12:19,
6年前
, 8F
02/11 12:19, 8F
→
02/11 12:19,
6年前
, 9F
02/11 12:19, 9F
→
02/11 12:19,
6年前
, 10F
02/11 12:19, 10F
→
02/11 12:21,
6年前
, 11F
02/11 12:21, 11F
感謝大家,已經順利解答。我也是看這份文件一知半解,
的確應該不能在Decimal裡面先做運算,我自己也在getcontext().prec這裡設定錯誤了。
再次謝謝大家協助解惑
※ 編輯: doun (27.105.26.14), 02/11/2018 21:01:49
推
02/12 13:56,
6年前
, 12F
02/12 13:56, 12F
→
02/12 13:58,
6年前
, 13F
02/12 13:58, 13F
→
02/12 13:59,
6年前
, 14F
02/12 13:59, 14F
→
03/06 03:41,
6年前
, 15F
03/06 03:41, 15F
→
03/06 04:19,
6年前
, 16F
03/06 04:19, 16F
→
03/06 04:32,
6年前
, 17F
03/06 04:32, 17F
→
03/06 04:45,
6年前
, 18F
03/06 04:45, 18F