3.3后验概率与单符号互信息量关系的进一步讨论互信息量等于后验概率与先验概率比值的对数,即:互信息量=log后验概率先验概率后验概率与单符号互信息量关系的进一步讨论在信息理论中,我们总是认为先验概率是先验已知或事先测定的。所以(3-13)表明互信息量实际上取决于信道统计特性决定的后验概率。后验概率P(ai/bj)具有概率的一般特性;11loglog/ijiijIabPaPab/log(1,2,,;1,2,,)ijiPabirjsPa...
3.8单符号离散无记忆的N次扩展信道单符号离散无记忆的N次扩展信道若前向概率满足:(3-100)𝑃(𝑌/𝑋)=𝑃(𝑌1𝑌2⋯𝑌𝑁/𝑋1𝑋2⋯𝑋𝑁)¿𝑃(𝑌1/𝑋1)𝑃(𝑌2/𝑋2)⋯𝑃(𝑌𝑁/𝑋𝑁)=∏𝑘=1𝑁𝑃(𝑌𝑘/𝑋𝑘)上式的另一种形式为前向概率满足:𝑃(𝛽𝑖/𝛼)=𝑃(𝑏𝑗1𝑏𝑗2⋯𝑏𝑗𝑁/𝑎𝑖1𝑎𝑖2⋯𝑎𝑖𝑁)¿𝑃(𝑏𝑗1/𝑎𝑖1)𝑃(𝑏𝑗2/𝑎𝑖2)⋯𝑃(𝑏𝑗𝑁/𝑎𝑖𝑁)=∏𝑘=1𝑁𝑃(𝑏𝑗𝑘/𝑎𝑖𝑘)则称之为单符号离散无记忆的N次扩展信道。(3-101)主要...
单符号离散信道的数学模型信源信道信宿图1-1通信的简化模型单符号离散信道的数学模型单符号离散信道的数学模型)(/PYXXYraaa21sbbb21)/(bjaiPsjri,,2,1,,2,1图3-1单符号离散信道的数学模型单符号离散信道的数学模型030201输入随机变量X的符号集为12:,,,rXaaa输出随机变量Y的符号集为12:,,,sYbbb测定r×s个不同的条件概率,得前向信道矩阵PY/X单符号离散信道的数学模型单符号离散信道当P(bj/ai)=0时...