3.3后验概率与单符号互信息量关系的进一步讨论互信息量等于后验概率与先验概率比值的对数，即：互信息量=log后验概率先验概率后验概率与单符号互信息量关系的进一步讨论在信息理论中，我们总是认为先验概率是先验已知或事先测定的。所以（3-13）表明互信息量实际上取决于信道统计特性决定的后验概率。后验概率P(ai/bj)具有概率的一般特性;11loglog/ijiijIabPaPab/log(1,2,,;1,2,,)ijiPabirjsPa...
3.10平均互信息量的不增性与数据处理定理一个实际的通信系统，通常是由若干个部分组成的，从信息论的角度来看，其中的每个部分都是用于传输与处理信息的，称之为数据处理系统。广播接收机•天线谐振电路•高频放大器•本机振荡•混频(变频)器•中频放大器•检波器•电压放大器•功率放大器每个部分都可等效于一个广义信道，并且这些部分之间是一种信道串联的关系。平均互信息量的不增性：若干个信道串接后，平均互信息量的一种...
3.2单符号的互信息量箱子里有1个桃子箱子里有1个桃子教室非常安静，传输通道无干扰、无噪声，传输无疑问。箱子里有1个桃子教室嘈杂，传输通道有较强的干扰，传输产生疑问。箱子里有7个桃子？单符号的互信息量信宿收到信道输出的某一符号bj,后从bj中获取关于信道某输入符号ai的信息量I(ai;bj)信宿收到bj,前对于信道输入符号ai中的先验不定度I(ai)信宿收到bj之后,对符号ai仍然存在的后不定度I(ai/bj)通信前后对信道输入ai不定度的...
