若对任意的 ,马尔可夫链 的转移概率与 无关,则称马尔可夫链是「齐次马尔可夫链**」,并将 ,记为
设 表示一步转移概率所组成的矩阵,则
称为系统状态的一步转移概率矩阵,它具有如下性质
满足上述两个性质的矩阵称为「随机矩阵」,也叫一步转移概率矩阵