看板 [ Math ]
討論串[機統] 資訊理論熵編碼證明
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#2
Re: [機統] 資訊理論熵編碼證明
推噓1(1推 0噓 0→)留言1則，0人參與, 11月前最新作者arrenwu (最是清楚哇她咩)時間11月前 (2024/12/24 15:53), 11月前編輯資訊
0
4
0
內容預覽:
這部分可以用 log-sum inequlity 得出. 下面所使用的log全部都是 log2，. 同時，令 k = log(n). https://i.imgur.com/suKH9Yi.jpg. 其中 -Plog(P) <= 1 的證明來自. -Plog(P) <= -Plog(P) - (1-
(還有112個字)
#1
[機統] 資訊理論熵編碼證明
推噓2(2推 0噓 0→)留言2則，0人參與, 11月前最新作者chun10396974 (娜嗲希摳老公)時間11月前 (2024/12/24 10:20), 11月前編輯資訊
0
1
0
內容預覽:
手機發文排版請見諒. 假設現有n個符號，且n為2的正整數次方，其機率由1至n遞減排列為p1, p2, ..., pm, ..., pn. 其中自第m個開始其編碼後長度大於log2(n)，亦即log2(1/pm)>log2(n). 以下是我的猜測，但證明到一半卡住：. 現在針對每個輸入額外多1bit作
(還有629個字)
首頁
上一頁
1
下一頁
尾頁