信息论讲义-第三章7讲).pdf

信息理论基础 信息理论基础 第7讲 北京航空航天大学 201教研室 陈 杰 3.5 马尔可夫信源 3.5.1 马尔可夫过程 3.5.2 有限状态马尔可夫链 3.5.3 马尔可夫信源 2 2006-12-4 3.5.1 马尔可夫过程 1. 定义： 设{X (t), t ∈T}是随机过程，任取0 ≤t t · · · t ， 1 2 n t ∈T,i=1,2, · · ·n ,若t ,t ,· · · ,t 时刻, 取值分别为 i 1 2 n x ,x , · · ·,x ，并有 1 2 n ( ) P x ,t | x ,t ;x ,t ;;x ,t n n n−1 n−1 n−2 n−2 1 1 ( ) P xn ,tn | xn−1 ,tn−1 ;xn−2 ,tn−2 ;;xn−k ,tn−k 注： • k=0时，称为零阶马尔可夫过程。 • 零阶马尔可夫过程= 白噪声过程。 3 2006-12-4 3.5.1 马尔可夫过程 2. 分类 a. 状态离散 时间参数集T 离散 ——马尔可夫链 b. 状态离散 时间参数集T 连续 ——离散马尔可夫过程 c. 状态连续 时间参数集T 离散 ——马尔可夫序列（泊松过程） d. 状态连续 时间参数集T 连续 ——连续马尔可夫过程 4 2006-12-4 3.5.2 有限状态马尔可夫链 1.定义： 设 {xn , n ∈N+ }为一随机序列，时间参数集 N+={0,1,2,…}, 其状态空间S={S ,S ,…S }有限或 1 2 J 可数，若对所有n ∈ N+ ，有 P ( X n Sin | X n−1 Sin−1 , X n− 2 Sin− 2 ,, X 1 Si1 ) P ( X n Sin | X n−1 Sin−1 ) 则称, {x ,n ∈N+ }为马尔可夫链， n 即有限状态一阶马尔可夫链。