信息论与编码 ch05作业讲解.pdfVIP

作业题1 第二章信源熵 作业题1 2.2.居住某地区的女孩子有25 ％是大学生，在女 2.2.居住某地区的女孩子有25 ％是大学生，在女 大学生中有75 ％是身高160厘米以上的，而女 大学生中有75 ％是身高160厘米以上的，而女 孩子中身高160厘米以上的占总数的一半。假 孩子中身高160厘米以上的占总数的一半。假 如我们得知“身高160厘米以上的某女孩是大 如我们得知“身高160厘米以上的某女孩是大 学生”的消息，问获得多少信息量。 学生”的消息，问获得多少信息量。 2006-9-22 2 作业题1 第二章信源熵 作业题1 解答： 设A表示“大学生”这一事件，B表示“身 解答： 设A表示“大学生”这一事件，B表示“身 高1.60米以上”这一事件，它们出现的概率为 高1.60米以上”这一事件，它们出现的概率为 p A p B p B A ( ) 0.25 ( ) 0.5 ( / ) 0.75 P AB P A p B A × ( ) ( ) ( / ) 0.75 0.25 P A B ( / ) 0.375 P B P B ( ) ( ) 0.5 I A B =− P A B =− bit ( / ) log2 ( / ) log2 0.375 1.42 2006-9-22 3 作业题2 第二章信源熵 作业题2 2.3.一幅充分洗乱了的牌（含52张牌），试问 2.3.一幅充分洗乱了的牌（含52张牌），试问 (1) 任一特定排列所给出的信息量是多少？ (1) 任一特定排列所给出的信息量是多少？ (2) 若从中抽取13张牌，所给出的点数都不相同 (2) 若从中抽取13张牌，所给出的点数都不相同 能得到多少信息量？ 能得到多少信息量？ 2006-9-22 4 作业题2 第二章信源熵 作业题2 解答： 解答： (1)任意排列共有 52 种，则任一排列的自信息量 (1)任意排列共有P 52! 种，则任一排列的自信息量 52 为： 为： −log (1/ 52!) log 52! 225.58bit 2 2 (2)应将点数相同花色不同的牌看作一类，则任意抽取 (2)应将点数相同花色不同的牌看作一类，则任意抽取 的13张牌应在13类中分别进行