Mímisbrunnr知恵の泉

← ベイズ統計 一覧

🎓 第2章：共役事前分布

第2章 共役事前分布

Phase 1 で数値積分して求めた事後分布を、閉じた式で一気に求める章です。事前を尤度に「共役」に選ぶと、正規化積分が消え、ベイズ更新がパラメータの足し算になります。統計検定サイトの 共役事前分布（統計）が土台で、ここでは各ペアを実行可能な Python コードで検証しながら、事後予測・事前感度・正則化との接続まで踏み込みます。

トピック一覧

  1. 共役性とは — 基礎
  2. ベータ二項モデル — 基礎
  3. ガンマポアソンと指数 — 標準
  4. 正規正規モデル — 標準
  5. 指数型分布族と共役事前 — 発展

この章の骨格

どのペアも証明の骨格は同じ——尤度のカーネル × 事前のカーネル ＝ 同じ分布族のカーネル（∝\propto で肩を足す）。

尤度共役事前事後（更新則）事後予測
二項・ベルヌーイベータBeta(a+k, b+n−k)\mathrm{Beta}(a+k,\ b+n-k)ベータ二項
ポアソンガンマGamma(α+∑xi, β+n)\mathrm{Gamma}(\alpha+\sum x_i,\ \beta+n)負の二項（過分散）
指数ガンマGamma(α+n, β+∑xi)\mathrm{Gamma}(\alpha+n,\ \beta+\sum x_i)ロマックス（パレートII型）
正規（分散既知）正規精度の加算・加重平均正規
正規（両方未知）正規逆ガンマNIG 更新Student-t

そして 指数型分布族と共役事前 で、この「同じ骨格」の正体が指数型分布族であり、更新が χ→χ+∑T(xi), ν→ν+n\boldsymbol\chi\to\boldsymbol\chi+\sum T(x_i),\ \nu\to\nu+n に統一されることを示します。

関連章

上位ハブ