齐次马尔可夫链

若对任意的 马尔可夫链 转移概率 无关,则称马尔可夫链是「齐次马尔可夫链**」,并将 ,记为

表示一步转移概率所组成的矩阵,则

称为系统状态的一步转移概率矩阵,它具有如下性质

满足上述两个性质的矩阵称为「随机矩阵」,也叫一步转移概率矩阵