3-3证明：I(X；Y)=H（X）-H(X｜Y)。
证明：
3-9 没有冗余的信源还能不能压缩？为什么？
答：能压缩。但是不能进行无损压缩，可以进行有损压缩。
3-12 等概率分布的信源还能不能压缩？为什么？你能举例说明吗？
答：能， 可以进行有损压缩。因为“等概”不一定就“不相关”，所以可以进行有损压缩。
例如对方波信号或锯齿波信号的均匀取样值。
3-15 有人认为：“图像的负片（黑白颠倒）比正片更容易压缩”。你同意他的观点吗？为什么？
答： 不同意，图像的正负片的熵是相同的，即该图像的冗余度是相同的，所以压缩的容易程度是一样的。
3-16 有人认为：“相关的信源是非等概率分布的”。你同意他的观点吗？为什么？
答：不同意，因为“等概”不一定就“不相关”、“不等概”不一定就“相关”。
非等概率分布能说明存在冗余度，能够进行压缩，能得出该信源是非等概率分布的。
原文：http://www.cnblogs.com/LFXYY/p/6065103.html