1、 一个二进制$X$发出符号集为${-1, 1}$，经过离散无记忆信道传输，由于信道中噪音的存在，在接收端$Y$收到符号集为${-1, 1, 0}$。已知$P(x=-1)=\frac{1}{4}$，$P(x=1)=\frac{3}{4}$，$P(y=-1|x=1)=\frac{4}{5}$，$P(y=0|x=-1)=\frac{1}{5}$，$P(y=1|x=1)=\frac{3}{4}$，$P(y=0|x=1)=\frac{1}{4}$，求条件熵$H(Y|X)$ ()
A 0.2375
B 0.3275
C 0.5273
D 0.5372
解析:
\begin{split}
\because\quad H(X|Y) &=-\sum P(X, Y)\log P(Y|X) \\
&= -\sum P(Y|X)P(X)\log P(Y|X)
\end{split}
\begin{split} \therefore\quad H(X|Y)&=-(P(y=-1|x=-1)P(x=-1)\log P(y=-1|x=-1) \\
& + P(y=0|x=-1)P(x=-1)\log P(y=0|x=-1) \\
& + P(y=1|x=1)P(x=1)\log P(y=1|x=1) \\
& + P(y=0|x=1)P(x=1)\log P(y=0|x=1)) \\
& =-(\frac{4}{5}\times\frac{1}{4}\times\log\frac{4}{5} + \frac{1}{5}\times\frac{1}{4}\times\log\frac{1}{5} + \frac{3}{4}\times\frac{3}{4}\times\log\frac{3}{4} + \\ &\frac{1}{4}\times\frac{3}{4}\times\log\frac{1}{4}) \\
&\approx -(-0.01938-0.03495-0.07028-0.11289)=0.2375
\end{split}
特别注意： 这里的$log$是以$10$为底的对数函数。
答案：A