🎓 第5章:階層ベイズモデル
第5章 階層ベイズモデル
グループに分かれたデータを、各グループのパラメータが共通の親分布から生まれたとみなして結ぶのが階層モデルです。グループ間で情報を借り合うことで、小グループの推定が安定し(収縮)、完全プーリングと非プーリングの「いいとこ取り」ができます。第4章の MCMC を計算エンジンに、第2章の共役を条件付きの部品にして組み上がる、ベイズの総合力が問われる章です。
トピック一覧
- 階層モデルの構造 — 標準
- 収縮の数理 — 発展
- 経験ベイズ — 発展
- 階層モデルの実例と再パラメータ化 — 発展
この章の骨格
- 3つのプーリング:完全(全群同一)/非(各群独立)/部分(階層・中間に収縮)。収縮率 で不確実な群ほど全体平均へ。
- 収縮の数理: で収縮は MLE の総 MSE を支配(ジェームズ–スタイン)。最適収縮=ベイズの精度加重=正則化。
- 経験ベイズ:ハイパーを周辺尤度最大化で点推定。手早いが過信・退化に注意。完全ベイズは MCMC で同時推定。
- 再パラメータ化:階層事後の漏斗型は中心化サンプラーを苦しめる。非中心化 で幾何を直す。
関連章
- 第2章 第2章 共役事前分布 目次 — 部分プーリングの中身(正規–正規の精度加重)
- 第4章 第4章 MCMC 目次 — 階層モデルの計算エンジン(漏斗の発散診断も)
- 第6章 変分推論 — 事後を近似で速く求める
- 第7章 ベイズ回帰とGLM — 階層回帰・混合効果モデルへ
- 機械学習:正則化の理論(収縮=正則化)