有限次元分布とコルモゴロフの拡張定理

🎓 レベル：発展　|　重要度：B（理論の土台） 📎 前提：確率過程とは　|　数理：同時分布・周辺分布（統計）

要点（BLUF）

確率過程は無限個の確率変数の族ですが、その法則は**有限個の時点を取り出した同時分布（有限次元分布, fdd）**をすべて指定すれば決まります。
有限次元分布の族が整合性条件（並べ替えと周辺化で矛盾しない）を満たせば、それを実現する確率過程が必ず存在する — これがコルモゴロフの拡張定理です。
だから過程を作るときは「全標本路の確率」を直接書く必要はなく、有限時点の分布だけ整合的に決めればよい。

概念

無限に続く過程 $\{X_t\}_{t\in T}$ の「確率法則」を直接書くのは難しそうに見えます。標本路の空間は無限次元だからです。しかし救いがあります。私たちが実際に問う確率はすべて、有限個の時点に関するものです。「 $X_{t_1}\le a_1$ かつ $\dots$ かつ $X_{t_n}\le a_n$ となる確率は？」。つまり有限次元分布さえ分かれば、知りたいことはすべて計算できます。

数式による定式化

時点の有限列 $t_1 < t_2 < \dots < t_n$ ごとに、 $(X_{t_1},\dots,X_{t_n})$ の同時分布関数

F_{t_1,\dots,t_n}(x_1,\dots,x_n) = P(X_{t_1}\le x_1,\ \dots,\ X_{t_n}\le x_n)

を有限次元分布と呼びます。この族 $\{F_{t_1,\dots,t_n}\}$ が過程の正体です。族が満たすべき整合性条件は2つ。

\text{（対称性）}\quad F_{t_{\pi(1)},\dots,t_{\pi(n)}}(x_{\pi(1)},\dots,x_{\pi(n)}) = F_{t_1,\dots,t_n}(x_1,\dots,x_n)

\text{（周辺化）}\quad \lim_{x_n\to\infty} F_{t_1,\dots,t_n}(x_1,\dots,x_n) = F_{t_1,\dots,t_{n-1}}(x_1,\dots,x_{n-1})

対称性は「時点の並べ替えに依らない」、周辺化は「1つの時点を $+\infty$ に飛ばす（＝忘れる）と1つ低い次元の分布に一致する」という条件です。

直観

要するに「ジグソーパズルのピースが噛み合っていれば、全体の絵が必ず1枚存在する」という定理です。有限次元分布は過程をところどころ覗き見たスナップショット。スナップショット同士が（重なる部分で）矛盾しなければ、それらすべてを同時に実現する1つの過程（＝無限次元の確率測度）を組み立てられる、とコルモゴロフは保証しました。存在を一から構成する手間を省いてくれる「過程の存在定理」です。

具体例

ブラウン運動の共分散 $K(s,t)=\min(s,t)$ を持つガウス過程を考えます。時点 $(1,2,3)$ での3次元正規分布から標本を作り、先頭2成分だけを残す（＝3つ目を周辺化する）と、その共分散は $(1,2)$ の2次元分布の共分散ブロックに一致するはずです。整合性条件（周辺化）を数値で確認します。

import numpy as np
rng = np.random.default_rng(0)
ts = np.array([1.0, 2.0, 3.0])
K = np.minimum.outer(ts, ts)          # K(s,t)=min(s,t)
L = np.linalg.cholesky(K)
X = rng.standard_normal((400000, 3)) @ L.T
emp2 = np.cov(X[:, :2].T)             # 3次元標本→先頭2成分へ周辺化
print("理論 2x2 共分散(左上ブロック):\n", K[:2, :2])
print("周辺化した 2x2 共分散:\n", np.round(emp2, 3))
# 理論 2x2 共分散(左上ブロック):
#  [[1. 1.]
#  [1. 2.]]
# 周辺化した 2x2 共分散:
#  [[1.002 1.002]
#  [1.002 1.999]]

3つ目の時点を捨てて得た2次元分布が、最初から2時点で作る分布と一致しています。整合性条件が現実に成り立っていることの確認です。

他過程との関係

マルコフ連鎖とは・遷移行列では、有限次元分布が初期分布と遷移確率の積に分解されます（マルコフ性が整合性を自動的に保証）。
ブラウン運動の定義と性質は、上の $K(s,t)=\min(s,t)$ を持つガウス過程として、まさにこの定理で存在が保証されます。

数式の直観的意味

整合性条件は「部分どうしの無矛盾」を要求するだけで、過程の存在という「全体」を引き出します。これは確率論における局所から大域への橋渡しで、後の定常性と独立増分（有限次元分布が時間シフトで不変）や定常過程の定義も、すべて有限次元分布の言葉で書かれます。

⚠️ よくある誤解

「有限次元分布だけでは標本路の連続性などの細かい性質は決まらない」。fdd は「ある有限時点での確率」しか縛らないため、至るところ微分不可といった経路の性質は別途（連続版コルモゴロフ連続性定理などで）保証する必要があります。fdd は過程の分布を決めるが、軌道の滑らかさまでは決めない、と覚えてください。
整合性は「自由に分布を決めてよい」という意味ではない。勝手に各時点の分布を並べると周辺化で矛盾します。噛み合うように設計して初めて過程になります。

対応シミュレーション

本文のコードがそのまま整合性の数値確認になっています（時点数や共分散を変えても周辺化の一致が保たれます）。