時系列への接続｜確率過程

🎓 レベル：標準　|　重要度：A（橋渡し） 📎 前提：定常性と独立増分、確率微分方程式とEuler-Maruyama

要点（BLUF）

時系列分析の中心概念 — 定常性・自己相関・スペクトル — は、定常性と独立増分自己相関と過程の特徴づけで定義した確率過程の一般論の特殊化（離散時間・弱定常）です。
AR(1) 過程は、連続時間のオルンシュタイン・ウーレンベック過程（OU）を等間隔の時刻で観測したものと厳密に一致します： $\phi=e^{-\theta h}$ 。
だから「過程の理論」（定常・マルコフ・収束）はここ、「推定・予測・モデル選択」の実務は時系列分析へ wikilink します。

概念

時系列モデルの AR・MA・ARMA は、確率過程の言葉で言えば「離散時間の弱定常過程をパラメトリックに表したもの」。とりわけ AR(1) は最も基本的な定常過程で、連続時間で平均回帰する OU 過程の離散観測版です。連続と離散の橋がここで架かります。

数式による定式化

AR(1)： $X_t = \phi X_{t-1} + \varepsilon_t$ （ $|\phi|<1$ で弱定常、 $\varepsilon_t$ は白色雑音）。

OU 過程： $dX_t=\theta(\mu-X_t)\,dt+\sigma\,dB_t$ （確率微分方程式とEuler-Maruyama）。OU を時間間隔 $h$ で観測すると、厳密に AR(1) になります：

X_{t+h} = \mu + (X_t-\mu)\,e^{-\theta h} + \eta_t, \qquad \phi = e^{-\theta h}, \quad \mathrm{Var}(\eta_t)=\frac{\sigma^2}{2\theta}\big(1-e^{-2\theta h}\big)

定常分散は $\mathrm{Var}(X)=\sigma^2/(2\theta)$ 、ラグ $k$ の自己相関は $\phi^k=e^{-\theta hk}$ （自己相関と過程の特徴づけの幾何減衰）。

直観

要するに「AR(1) は OU をストロボで撮った写真」。連続的に平均回帰する OU を一定間隔で覗くと、各観測が前の観測に $e^{-\theta h}$ だけ引きずられる AR(1) に見える。回帰の速さ $\theta$ が大きい（速く戻る）ほど $\phi=e^{-\theta h}$ は小さく（記憶が短く）なります。単位根 $\phi=1$ は $\theta=0$ （回帰力ゼロ＝ランダムウォーク）に対応します。

具体例

OU を等間隔観測した系列が AR(1) になり、 $\phi=e^{-\theta h}$ ・自己相関・定常分散が理論どおりであることを確認します。

import numpy as np
theta, mu_ou, sigma, h = 0.5, 0.0, 1.0, 1.0
phi = np.exp(-theta*h)                              # AR係数 = e^(-theta h)
var_inc = sigma**2/(2*theta)*(1 - np.exp(-2*theta*h))
rng = np.random.default_rng(2)
Tn = 200000
X = np.zeros(Tn)
noise = rng.normal(0, np.sqrt(var_inc), Tn)
for t in range(1, Tn):
    X[t] = mu_ou + (X[t-1] - mu_ou)*phi + noise[t]
print(f"phi = e^(-theta h) = {phi:.4f}")
print(f"標本ラグ1自己相関={np.corrcoef(X[:-1], X[1:])[0,1]:.4f} (理論 phi={phi:.4f})")
print(f"標本分散={X.var():.4f} (定常 sigma^2/(2theta)={sigma**2/(2*theta):.4f})")
# phi = e^(-theta h) = 0.6065
# 標本ラグ1自己相関=0.6073 (理論 phi=0.6065)
# 標本分散=1.0032 (定常 sigma^2/(2theta)=1.0000)

OU の離散観測の自己相関が $\phi=e^{-\theta h}=0.6065$ 、分散が定常値 $\sigma^2/(2\theta)=1$ に一致。連続時間の過程と離散時間の AR(1) が厳密に対応しています。

他過程との関係

弱定常・自己相関は定常性と独立増分自己相関と過程の特徴づけの特殊化。単位根（ $\phi=1$ ）はランダムウォークと再帰性のランダムウォーク（非定常）です。
高次 AR や ARMA は、より一般の線形 SDE（多次元 OU）の離散観測に対応します。状態空間モデル・カルマンフィルタは時系列分析の主題です。

数式の直観的意味

$\phi=e^{-\theta h}$ という関係は、「連続時間の緩和率 $\theta$ 」と「離散時間の持続性 $\phi$ 」を結ぶ翻訳辞書です。観測間隔 $h$ を変えると $\phi$ が変わる（粗くサンプルすれば相関が薄れる）ことは、時系列の係数がサンプリング頻度に依存するという実務的に重要な含意を持ちます。連続時間の視点が、離散モデルの解釈を深めます。

⚠️ よくある誤解（※詳細は時系列分析へ）

AR 係数はサンプリング間隔に依存する。同じ OU 過程でも、観測間隔 $h$ を変えれば推定される $\phi$ が変わります。係数の比較は同じ間隔で。
弱定常は分布の定常ではない（定常性と独立増分）。AR(1) がガウスなら強定常ですが、一般には2次までの定常です。
ここでは過程の構造に集中します。推定（最尤・ユール=ウォーカー）、予測、ARIMA、季節調整は時系列分析のノートへ。

対応シミュレーション

OU の刻み $h$ を変えて $\phi=e^{-\theta h}$ の依存性を見る実験を stochastic-processes-study/simulations/ に置きます。