🎓 第4章:MCMC(マルコフ連鎖モンテカルロ)
第4章 MCMC
第2章の共役は便利でしたが、現実のモデルはほとんど非共役で、事後の正規化定数が解けません。本章では、事後からサンプルを生成して期待値や区間を近似する MCMC を、numpy でフル実装し、第2章の閉形式や数値積分の真値と一致することを確かめながら学びます。理論的土台(詳細釣り合い・定常分布)は統計検定サイトの MCMC(マルコフ連鎖モンテカルロ) にあり、ここでは「実際に動かして中身を見る」計算層を足します。
トピック一覧
- なぜサンプリングか — 標準
- メトロポリスヘイスティングス — 標準
- ギブスサンプリング — 標準
- ハミルトニアンモンテカルロとNUTS — 発展
- 収束診断 — 標準
この章の骨格
- なぜサンプリングか:正規化定数が解けず、高次元では格子が で爆発。モンテカルロは誤差 で次元非依存。
- MH:規格化なしの事後の比だけで回る( が約分で消える)。提案幅が要調整。
- ギブス:完全条件付き(共役なら標準分布)から1成分ずつ。受容判定なし。
- HMC/NUTS:勾配+運動量で滑空。強相関で ESS が桁違い。NUTS は軌道長を自動調整(PyMC/Stan、要最新確認)。
- 収束診断:複数チェーンの 、相関を割り引いた ESS、トレース。
関連章
- 第2章 第2章 共役事前分布 目次 — MCMC が要らない恵まれた場合(検証の真値)
- 第3章 第3章 事後分布の解析と要約 目次 — MCMC サンプルの要約
- 第5章 階層ベイズモデル — MCMC を前提にグループ構造を扱う
- 第9章 確率的プログラミング — PyMC/Stan で NUTS を実務に(要最新確認)
- 統計:MCMC(マルコフ連鎖モンテカルロ)(詳細釣り合い・定常分布・受容確率の証明)