设有一信源，它在开始时以P（a)=0.6，P（b)=0.3，P（c)=0.1的概率发出X1。如果X1为a时，则X2为a.b.c的

同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”或“面朝上点数之和为8”或“两骰子面朝上点数是3和4”时，试问这三种情况分别获得多少信息量?

解：

“两骰子总点数之和为2”有一种可能，即两骰子的点数各为1,由于二者是独立的，因此该种情况发生的概率为

该事件的信息量为:

I=log36≈5.17比特

“两骰子总点数之和为8”共有如下可能:2和6.3和5.4和4.5和3.6和2，概率为

因此该事件的信息量为:I=log36/5≈2.85比特

“两骰子面朝上点数是3和4”的可能性有两种:3和4.4和3,概率为因此该事件的信息量为:I=log18≈4.17比特

请帮忙给出正确答案和分析，谢谢！

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P(黑)=0.3，白色出现的概率为P(白)=0.7。

(1)假设图上黑白消息出现前后没有关联，求熵H(X);

(2)假设消息前后有关联，其依赖关系为P(白1白)=0.9,P(黑I白)=0.1,P(白1黑)=0.2，P(黑l黑)=0.8，求此一阶马尔克夫信源的熵H2。

(3)分别求上述两种信源的冗余度，并比较H(X)和H2的大小，并说明其物理意义。

请帮忙给出正确答案和分析，谢谢！