回帰・線形モデル ── Phase 5 目次
このドメインの位置づけ
- 関わる級：2級（単回帰・分散分析）・準1級（重回帰・GLM・正則化・回帰診断）・1級（GLMの理論・漸近論）。
- 出題比重の目安（※目安・年度依存は要最新確認）：2級では単回帰（最小二乗・決定係数・回帰係数の検定）と分散分析が頻出。準1級では重回帰・多重共線性・変数選択・一般化線形モデル・正則化まで広がる。1級は記述式でGLMの理論や漸近論を問う。
- 前提とするドメイン：推定・仮説検定（Phase 4 目次）（推定・仮説検定）── 最小二乗＝推定、回帰係数の検定＝仮説検定の応用。2変数の記述（散布図・共分散・相関係数）── 相関≠因果／rは直線関係しか測れない／外れ値1点で激変（相関・共分散）が単回帰の出発点。t分布・カイ二乗分布・F分布（標本分布の三役）（係数のt検定・回帰のF検定）が検定の素材。
- 土台になる先：Phase 6（多変量解析）・Phase 8（時系列＝回帰の拡張）・Phase 9（1級応用の重回帰・計量経済）。
トピック一覧
- 単回帰分析（2級）── 最小二乗法・決定係数R²・回帰係数のt検定・回帰の分散分析
- 残差分析・回帰診断（2級・準1級）── ガウス・マルコフの仮定、残差プロット、てこ比・Cook距離
- 重回帰分析（準1級）── 行列形式の最小二乗、偏回帰係数、多重共線性（VIF）、変数選択（AIC）
- 一般化線形モデル（ロジスティック・ポアソン回帰）（準1級・1級）── 指数型分布族・リンク関数、ロジスティック回帰・ポアソン回帰
- 正則化（リッジ・Lasso）（準1級）── リッジ（L2）・Lasso（L1）、バイアス・バリアンス、スパース性
- 分散分析（2級・準1級）── 一元配置・二元配置・交互作用、平方和分解とF検定。多重比較 の事後検定と接続
関連ドメイン
- 推定・仮説検定（Phase 4 目次）（推定・仮説検定）── 最小二乗推定・係数の検定の土台
- 記述統計・データの記述（Phase 1 目次）（記述統計・データの記述）── 相関・共分散・最小二乗の幾何
- 確率分布・標本分布（Phase 3 目次）（確率分布・標本分布）── t/F分布が係数検定・回帰分散分析の素材