有一离散无记忆信源 [图] （1） 求信源符号熵H（X)。 （2） ...

设离散无记忆信源X通过离散无记忆信道{X,P_Y|X,Y}传送信息，设信源的概率分布为：

    信道线图如图所示。

    试求：

  (1)从输出符号b_j(j=1,2)中所获得的关于输入符号a_i(i=1,2)的信息量；

  (2)信源X和信道输出Y的熵；

  (3)信道损失熵H(X|Y)和噪声熵H(Y|X)；

  (4)从信道输出Y中获得的平均互信息量I(X;Y)。

设离散无记忆信源X通过离散无记忆信道{X,P_Y|X,Y}传送信息，设信源的概率分布为：

  

  信道线图如图所示。

  

  试求：

  (1)从输出符号b_j(j=1,2)中所获得的关于输入符号a_i(i=1,2)的信息量；

  (2)信源X和信道输出Y的熵；

  (3)信道损失熵H(X|Y)和噪声熵H(Y|X)；

  (4)从信道输出Y中获得的平均互信息量I(X;Y)。

3.4 设离散无记忆信源X通过离散无记忆信道传送信息，设信源的概率分布和信道的线图分别为:,试求： （1）信源X的符号和分别含有的自信息； （2）从输出符号所获得的关于输入符号的信息量； （3）信源X和信道输出Y的熵； （4）信道疑义度H(X|Y)和噪声熵H(Y|X)； （5）从信道输出Y中获得的平均互信息量。

某离散无记忆信源符号集为,所对应的概率分别为: 0.4，0.2，0.1，0.1，0.07，0.05，0.05，0.02，0.01，码符号集为{0,1,2,3}.

(1)求信源的熵H(X)及信源剩余度γ。

(2)对其进行四元Huffman编码。

(3)求平均码长，编码效率η及编码器输出的信总传输速率R。

0.4,对该信源进行二元Huffman编码，码字集合为{0,10,110,111}。

(1)列出信源符号与码字的对应表。

(2)计算信源的熵H(X)和编码器的码率R。

(3)求编码序列中0和1出现的概率P₀，P₁。

(4)求编码序列中的条件概率。

(5)求长度为j的不同编码序列的个数N(j) 。

设一离散无记忆信源

(1)求信源熵H(S)以及信源剩余度。

(2)对信源符号进行二元哈夫曼编码井计算平均码长和编码效率。

(3)对信源符号进行三元哈夫曼编码并计算平均码长和编码效率。

(4)若要求译码错误概率≤10-3，采用二元定长码要求达到(2)中的哈曼编码效率时，估计信源序列的长度N。

设有一离散无记忆信源。通过编写matlab程序，解决以下问题：

(1)给出信源符号二元哈夫曼编码表，计算平均码长和编码效率;产生长度为1000的信源符号序列，对其进行编码、译码，并计算实际平均码长和编码效率;

(2)对信源符号进行三元哈夫曼编码，解决与(1)同样的问题。

设一离散无记忆信源的输出由4种不同的符号组成，它们的出现概率分别为1/2、1/4、1/8、1/8，则此信源平均每个符号包含的信息熵为____________。若信源每毫秒发出一个符号，那么此信源平均每秒输出的信息量为____________。