A.冗余度来自两个方面,一是信源符号间的相关性,二是信源符号分布的不均匀性B.信源符号间的相关性越强,冗余度越大C.信源的冗余度越大,其实际熵也越大D.从提高传输信息效率的观点出发,总是希望减少或去掉冗余度
单项选择题下列不属于熵H(X)的物理意义的有()。
A.熵表示信源输出后,每个消息(或符号)所提供的平均信息量B.熵表示接收者平均获得的信息量C.熵表示信源输出前,信源的平均不确定性D.熵表征变量X的随机性
单项选择题关于数据处理定理,以下说法不正确的是()。
A.信息处理过程中熵是不会增加的B.通过数据处理后,一般只会增加信息的损失,最多保持原来获得的信息C.若X、Y、Z组成一个马尔可夫链,则有I(X;Z)≥I(X;Y)D.若X、Y、Z组成一个马尔可夫链,则有I(X;Z)≤I(X;Y)E.当消息通过多级处理器时,随着处理器数目的增多,输入消息与输出消息之间的平均互信息量趋于变小
多项选择题关于平均互信息I(X;Y),下列说法正确的有()。
A.它代表接收到符号集Y后所能获得的关于X的信息量B.它有可能取负值C.I(X;Y)=H(X)-H(X/Y)D.0≤I(X;Y)≤H(X)E.当X与Y相互独立时,I(X;Y)=H(X)
多项选择题关于离散平稳信源,下列说法错误的有()。
A.信源所发符号的概率分布与时间起点无关B.H(X1X2…XL)=H(X1)+H(X2/X1)+H(X3/X2)+…+H(XL/XL-1)C.H(X1X2…XL)=LH(X)D.H(XL/XL-1)是L的单调非增函数E.HL(X)≥H(XL/XL-1)
多项选择题若X、Y、Z组成一个马尔可夫链,则下列表达式正确的是()。
A.I(X;Z)≤I(X;Y)B.I(X;Z)≥I(X;Y)C.I(X;Z)≤I(Y;Z)D.I(Z;X)≥I(Y;X)E.I(Z;X)≤I(Y;X)