🎓 第7章：ベイズ回帰と一般化線形モデル
第7章 ベイズ回帰とGLM
これまでの道具——共役（第2章）・MCMC（第4章）・変分（第6章）・階層（第5章）——を、回帰という応用で合流させる章です。ベイズ回帰は係数の事後分布を返し、予測には不確実性帯がつきます。正則化がベイズ MAP の別名であること、リンク関数で共役が崩れる GLM の近似、群構造を収縮で扱う階層回帰までを、実装で確かめます。
トピック一覧
- ベイズ線形回帰 — 標準
- 正則化との関係 — 標準
- ベイズGLM — 標準
- 階層回帰と混合効果モデル — 発展
この章の骨格
- ベイズ線形回帰：ガウス事前＋ガウス尤度→事後も予測も閉形式。予測帯は外挿で広がる。
- 正則化＝MAP：リッジ＝ガウス事前、Lasso＝ラプラス事前。L1 が疎・L2 が密は事前の形（0 での尖り）から。
- ベイズ GLM：ロジット/対数リンクで共役が崩れる。ラプラス近似（MAP＋ヘッセ）が MCMC とほぼ一致。
- 階層回帰：固定効果＋変動効果。群切片が部分プーリングで収縮。漏斗には非中心化。
関連章
- 第2章 第2章 共役事前分布 目次 — 正規–正規・指数型族（GLM の土台）
- 第4章 第4章 MCMC 目次 — GLM・階層回帰の推定エンジン
- 第5章 第5章 階層ベイズモデル 目次 — 階層回帰の収縮
- 第8章 モデル評価と選択 — 組んだ回帰モデルの評価へ
- 機械学習：正則化の理論・正則化（Ridge・Lasso・Elastic Net）