互信息概念与定理

     近期在看一些熵相关的东西，为了了解一下互信息相关的东西，查阅了一些资料，有一个课件自己感觉写的不错，可是下载不下来，我就对它们进行了截图，希望对大家有帮助。这个课件中讲的内容比較基础，可是对于非通信、信息类的同学来说还是非常有帮助的，并且不仅通俗易懂，并且证明过程详尽，是不可多得的好材料。其重要包含互信息概念、定理、经常使用的结论，已经一些应用中经经常使用到的性质，闲言少叙，直接上图。