Consider the following channel(is shown in Fig.3.26) is (1/2,0,1/2) an input distribution that achieves capacity?
Show that I(X;Y)=H(Y) - H(Z).
第2题
2,而其他概率值不变。试证明由此所得新的概率空间的熵是增加的,并用熵的物理意义加以解释。
第5题
同时扔一对均匀的骰子,当得知“两骰子面朝上点数之和为2”或“面朝上点数之和为8”或“骰子面朝上点数是3和4”时,试问这三种情况分别获得多少信息量?
若仅有质点A,求A落入任一个格的平均自信息量是多少?
第7题
- α)log(1/(1 - α))+(1 - α)H(Y) where Y is an ensemble of M-1 points a1,…,aM-1 with probabilities PY(aj)=PX(aj)/(1 - α);1≤j≤M - 1.Show that H(X)≤αlog(1/α)+(1 - α)log(1/(1 - α))+(1 - α)log(M - 1) and determine the condition for equality.
第9题
度电平,并设亮度电平等概率出现。问每帧图像含有多少信息量?若现有一广播员在约10 000个汉字的字汇中选1 000个字来口述此电视图像,试问广播员描述此图像所广播的信息量是多少(假设汉字字汇是等概率分布,并彼此无依赖)?若要恰当地描述此图像,广播员在口述中至少需用多少汉字?
为了保护您的账号安全,请在“上学吧”公众号进行验证,点击“官网服务”-“账号验证”后输入验证码“”完成验证,验证成功后方可继续查看答案!