아래에서 “limiting distribution의 존재”가 “stationary distribution의 존재”를 반드시 수반함(필요조건)을 보이고, 더 나아가 이 둘이 필요·충분 조건으로 맞물리기 위해 어떤 추가 가정들이 필요한지 정리한다.
만약
$$ \lim_{n\to\infty}P^n(i,j)=\pi_j \quad\forall\,i,j $$
와 같이 어떤 벡터 $\boldsymbol\pi=(\pi_1,\dots,\pi_n)$가 limiting distribution로 존재한다면, 다음이 성립한다.
확률벡터 조건
$$ \pi_j \;=\;\lim_{n\to\infty}\sum_{j}[P^n(i,j)] =\sum_{j}\lim_{n\to\infty}P^n(i,j) =\sum_j \pi_j =1, $$
또한 $P^n(i,j)\ge0$이므로 $\pi_j\ge0$.
Stationarity
$$ \bigl[\pi P\bigr]j =\sum_k \pi_k\,p{kj} =\sum_k \lim_{n\to\infty}P^n(i,k)\,p_{kj} =\lim_{n\to\infty} \sum_k P^n(i,k)\,p_{kj} =\lim_{n\to\infty} P^{\,n+1}(i,j) =\pi_j. $$
따라서 $\boldsymbol\pi P=\boldsymbol\pi$.
결론적으로
$$ \underbrace{\lim_{n\to\infty}P^n(i,j)\text{ 존재}}{\text{limiting distribution 존재}} \;\Longrightarrow\; \underbrace{\exists\,\boldsymbol\pi:\ \boldsymbol\pi P=\boldsymbol\pi,\ \sum_j\pi_j=1}{\text{stationary distribution 존재}} $$
즉, limiting distribution이 존재하려면 반드시 stationary distribution이 존재해야 한다.
그러나 “stationary distribution의 존재”만으로는 $P^n$이 어떤 초기 상태 i로부터도 수렴(limit)한다고 보장할 수 없다. 예를 들어,
이를 막고 “limiting distribution의 존재 ≡ stationary distribution의 존재”를 이루려면, 마르코프 체인이 다음을 만족해야 한다.
Irreducibility
$\forall\,i,j\ \exists\,n:\ P^n(i,j)>0.$
— 상태 공간이 하나의 통신(class)으로 연결되어 있어야 한다.
Aperiodicity
모든 상태 i에 대해 $\gcd\{\,n: P^n(i,i)>0\}=1.$
— 주기(period)가 1이어야 oscillation(주기적 진동)이 사라진다.
Positive recurrence (무한 상태 공간의 경우)
$\mathbb{E}_i[T_i]<\infty$, 즉 각 상태로의 기대 복귀 시간이 유한해야 한다.
(유한 상태 공간에서 irreducible이면 자동 만족)