標題: [問題] 定點數運算(Q格式)
時間: Tue Dec 21 20:10:19 2010
※ [本文轉錄自 ASM 看板 #1D49ZwiQ ]
作者: scrush (阿慶) 看板: ASM
標題: [問題] 定點數運算(Q格式)
時間: Tue Dec 21 20:09:28 2010
這題可能有點牽涉韌體的範疇,請問一下,如果使用Q格式來做定點數運算,是不是乘上
一個值量化之後,到最後在除上同樣倍數的值除回來就行了?比方說我用Q15的格式來
對0.5做運算,得到的值是4000H,到最後是不是除上2的負15次方就算還原了?
可是要用什麼方法驗證數值有確定轉換成功?
ex.
signed short i = 0x4000; (假設i是0.5,變成Q15後的值)
i = i/32768;
這樣做i就已經視同有轉換過了嗎?還是說我的步驟有錯呢?
懇請指教,謝謝!
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.37.174.87
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.37.174.87
→
12/21 20:31, , 1F
12/21 20:31, 1F
※ 編輯: scrush 來自: 61.230.197.159 (12/21 22:46)