[算表] 希望能正常運算超過 15 位以上的精度

看板Office作者 (きっと萌えられる)時間17年前 (2009/03/18 16:10), 編輯推噓2(2推 0噓 4→)
留言6則, 2人參與, 最新討論串1/1
軟體: MS Office excel 版本: 2007 大家好 <(_ _)> 15 12 9 6 3 15 12 9 6 3 想要正常運算 1,000,000,000,000,000 + 1 = 1,000,000,000,000,001 該怎麼做才好... <囧> 其實是這個公式的緣故： s = (1 + C + (2*C + C^2 )^(1/2) )^(1/3) .....(1) = ( C + (2*C + C^2)^(1/2) + 1 )^(1/3) ..(2) C 丟入 -1.00E+16 時， (1) s = 0 (<-- 這個結果不行，因為接著要算 1/s) ( 1 + C 因為精度之故, 1 被河蟹掉了 ) (2) s = 1 （廣告：上面那個是 xyz2llh transformation , Zhu 的其中一小段 by wiki) -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 219.70.160.25
推
03/18 22:46, , 1F
15 digit 精度不就是 double 嗎？
03/18 22:46, 1F
→
03/18 22:47, , 2F
用 excel 跑大數運算會不會太超過了啊？
03/18 22:47, 2F
→
03/19 10:36, , 3F
真的是好像有點太超過了. "Orz , javascript 也得另解 @@
03/19 10:36, 3F
推
03/19 16:15, , 4F
unsigned long long 也無法應付 16 位數的平方
03/19 16:15, 4F
→
03/19 16:16, , 5F
你要不要用 gcc ? 據說有 __int128 可以用 這應該會夠
03/19 16:16, 5F
→
03/19 21:36, , 6F
? 感謝增長知識.因為把寫excel當作jscript的前哨站 故提及
03/19 21:36, 6F
‣ 更多 nehex 的文章
文章代碼(AID): #19mAo9hn (Office)