bayesian statistics // 統計の第4分野
ベイズ統計
ベイズ統計は、ひとことで言えば「データを見て、信じる度合いを更新していく」統計学です。はじめに持っている見当(=事前)に、観測したデータの証拠を掛け合わせて、更新後の結論(=事後)を確率の分布として得ます。新しい事実を知るたびに考えを改めていく——人が自然にやっている学び方を、そのまま数式にしたものです。
なぜ学ぶのか
- 少ないデータでも戦える。手持ちの知識(事前)を活かせるので、サンプルが少なくても結論を出せます。
- 「わからなさ」を正直に扱える。答えを1つの値でなく分布で返すので、「どれくらい確かか」がそのまま分かり、意思決定に直結します。
- AI・機械学習の土台になる。ベイズ最適化・VAE・不確実性の定量化など、現代の機械学習はベイズの考え方の上に立っています。
こんな場面で役立つ
- A/Bテスト少ないクリック数でも「Bが勝っている確率は92%」と言える。
- スパム判定単語の証拠を掛け合わせ「迷惑メールである確率」を更新(ナイーブベイズ)。
- 医療・故障診断検査や観測の結果から「病気・故障の確率」を更新する。
- AIの安全性自動運転などでモデルが「自信がない」と表明できる(不確実性の定量化)。
ふつうの統計(頻度論)が「データだけ」で答えるのに対し、ベイズは「事前の知識 + データ」で考え、答えを分布で返すのが強みです。ここでは、その考え方を数式で確かめ、コピペで動く Python コードで実際に動かしながら、ベイズ推論の枠組みから確率的プログラミングまでを全52ノートで一段ずつ体系化します。各トピックのレベル(基礎/標準/発展)はバッジで表示。基礎は統計検定サイトへ、変分推論やVAEは機械学習サイトへ相互リンクしています。
カリキュラム(全10章)
目次・インデックス
Phase 1 ── ベイズ推論の枠組み
- 第1章 ベイズ推論の枠組み 目次
- 頻度論とベイズの違い 基礎 必須
- 事前・尤度・事後・周辺尤度 基礎 必須
- ベイズ更新と逐次推論 基礎 必須
- 点推定と損失関数 標準 必須
- 信用区間と事後予測分布 標準 必須
Phase 2 ── 共役事前分布
- 第2章 共役事前分布 目次
- 共役性とは 基礎 必須
- ベータ二項モデル 基礎 必須
- ガンマポアソンと指数 標準 必須
- 正規正規モデル 標準 必須
- 指数型分布族と共役事前 発展
Phase 3 ── 事後分布の解析と要約
- 第3章 事後分布の解析と要約 目次
- 事後分布の要約 標準 必須
- 信用区間と信頼区間 標準 必須
- 無情報事前と弱情報事前 標準
- 事前の選び方と感度分析 標準
Phase 4 ── MCMC
- 第4章 MCMC 目次
- なぜサンプリングか 標準 必須
- メトロポリスヘイスティングス 標準 必須
- ギブスサンプリング 標準 必須
- ハミルトニアンモンテカルロとNUTS 発展
- 収束診断 標準 必須
Phase 5 ── 階層ベイズモデル
- 第5章 階層ベイズモデル 目次
- 階層モデルの構造 標準 必須
- 収縮の数理 発展 必須
- 経験ベイズ 発展
- 階層モデルの実例と再パラメータ化 発展
Phase 6 ── 変分推論
- 第6章 変分推論 目次
- 変分推論の考え方 発展 必須
- 平均場近似と座標上昇法 発展 必須
- 確率的変分推論と再パラメータ化 発展
- VAEとELBOの共通構造 発展
Phase 7 ── ベイズ回帰とGLM
- 第7章 ベイズ回帰とGLM 目次
- ベイズ線形回帰 標準 必須
- 正則化との関係 標準 必須
- ベイズGLM 標準 必須
- 階層回帰と混合効果モデル 発展
Phase 8 ── モデル評価と選択
- 第8章 モデル評価と選択 目次
- 事後予測チェック 標準 必須
- 情報量規準WAICとDIC 発展
- 交差検証とLOO 発展
- ベイズファクターとモデル平均化 発展
Phase 9 ── 確率的プログラミング
- 第9章 確率的プログラミング 目次
- 確率的プログラミング概観 標準 必須
- モデル記述から推論まで 標準 必須
- 診断とトラブルシュート 標準 必須
Phase 10 ── 発展トピック
- 第10章 発展トピック 目次
- ガウス過程 発展
- ベイズ深層学習と不確実性 発展
- ノンパラメトリックベイズ 発展