Mímisbrunnr知恵の泉

← 確率過程 一覧

🎓 レベル:発展 | 重要度:A(MCMC の土台) 📎 前提:定常分布と収束

要点(BLUF)

概念

定常分布と収束πP=π\pi P=\pi は「全体としての出入りの釣り合い(大域釣り合い)」でした。詳細釣り合いはもっと強く、「どの2状態のペアでも、行き来の確率流が個別に等しい(局所釣り合い)」を要求します。これは平衡熱力学の可逆性に対応し、満たされれば定常性が自動で従うので、定常分布を「設計」する強力な道具になります。

数式による定式化

分布 π\pi と遷移行列 PP詳細釣り合いを満たすとは

πipij=πjpji(i,j)\pi_i\, p_{ij} = \pi_j\, p_{ji} \qquad (\forall i, j)

このとき jj について和をとると

iπipij=iπjpji=πjipji=πj\sum_i \pi_i p_{ij} = \sum_i \pi_j p_{ji} = \pi_j \sum_i p_{ji} = \pi_j

すなわち πP=π\pi P = \pi。詳細釣り合い \Rightarrow 定常、が示せました。詳細釣り合いを満たす連鎖を可逆と呼びます。定常状態で時間を反転しても遷移法則が同じ、つまり (X0,X1,,Xn)(X_0,X_1,\dots,X_n)(Xn,,X1,X0)(X_n,\dots,X_1,X_0) が同分布だからです。

メトロポリス法:目標分布 π\pi に対し、提案 qijq_{ij} を採択確率

αij=min(1, πjqjiπiqij)\alpha_{ij} = \min\left(1,\ \frac{\pi_j\, q_{ji}}{\pi_i\, q_{ij}}\right)

で受理すると、実効遷移 pij=qijαijp_{ij}=q_{ij}\alpha_{ij}π\pi について詳細釣り合いを満たします。

直観

要するに「各2地点間で人の流れが完全に均衡している」状態です。大域釣り合い(定常)は「各都市の人口が変わらない」だけですが、詳細釣り合いは「都市Aから都市Bへ行く人数と、BからAへ来る人数が一対一で等しい」。後者なら前者は当然成立します。MCMC は採択確率という「料金所」を設けて、この一対一の均衡を人工的に作り出します。

具体例

出生死亡型の可逆連鎖(隣接状態としか行き来しない)で、詳細釣り合いが厳密に成り立つことを確認します。

import numpy as np
Pb = np.array([[0.5, 0.5, 0.0, 0.0],
               [0.25, 0.5, 0.25, 0.0],
               [0.0, 0.25, 0.5, 0.25],
               [0.0, 0.0, 0.5, 0.5]])
vals, vecs = np.linalg.eig(Pb.T)
pi = np.real(vecs[:, np.argmin(np.abs(vals - 1))]); pi /= pi.sum()
print("定常分布 pi =", np.round(pi, 4))
maxdiff = max(abs(pi[i]*Pb[i, j] - pi[j]*Pb[j, i])
              for i in range(4) for j in range(4))
print(f"詳細釣り合い |pi_i p_ij - pi_j p_ji| の最大 = {maxdiff:.2e} (0なら可逆)")
# 定常分布 pi = [0.1667 0.3333 0.3333 0.1667]
# 詳細釣り合い |pi_i p_ij - pi_j p_ji| の最大 = 8.33e-17 (0なら可逆)

すべてのペアで確率流が(数値誤差の範囲で)厳密に釣り合っています。隣接状態としか遷移しない一次元的な連鎖は常に可逆です。

他過程との関係

数式の直観的意味

可逆連鎖は D1/2PD1/2D^{1/2}PD^{-1/2}D=diag(π)D=\mathrm{diag}(\pi))が対称行列になるため、固有値がすべて実数になります。これは定常分布と収束の収束速度(スペクトルギャップ)の解析を容易にし、MCMC の混合時間評価の基礎になります。可逆性は「設計しやすさ」と「解析しやすさ」を同時に与えるのです。

⚠️ よくある誤解

対応シミュレーション

メトロポリス法の実装(離散分布 π\pi を狙って詳細釣り合いを満たす連鎖を構成)は MCMC の実装として ベイズ/シミュレーション分野へ wikilink します。理論(詳細釣り合いが定常を保証する)はここ、推論応用はベイズです。

関連