← 統計検定テキスト 一覧

📊 対象級：準1級 ・ 1級　|　重要度：C（低頻度）

要点（BLUF）

正準相関分析（CCA: Canonical Correlation Analysis）は、2つの変数群 $\mathbf X$（$p$ 変数）と $\mathbf Y$（$q$ 変数）について、それぞれの線形結合 $u=\mathbf a^\top\mathbf X$、$v=\mathbf b^\top\mathbf Y$ を作り、その相関 $\mathrm{corr}(u,v)$ を最大化する 手法です。この $u,v$ が正準変量（canonical variate）、最大化された相関が正準相関係数（canonical correlation） です。最大化問題は次の一般化固有値問題に帰着します。

要するに「2群間の相関を最大にする方向 $\mathbf a$ は固有ベクトルとして求まり、正準相関係数 $\rho$ はその固有値の平方根」ということです。

1. 問題設定：2群間の「最も相関する向き」を探す

これまでの手法は、変数群の扱い方が違いました。

• 重回帰分析：複数の説明変数 → 1つの目的変数
• 主成分分析（PCA）：1つの変数群の中で分散が最大の方向を探す

正準相関分析が扱うのは「複数 対 複数」です。例えば「学力テスト群（国語・数学・英語）」と「身体測定群（身長・体重・握力）」のように、性質の異なる2つの変数群があり、群と群の関係の強さを知りたいとき。個々の変数ペアの相関は $p\times q$ 個もあって全体像が見えません。そこで各群を1本の合成変数に縮約し、その2本の相関で群間関係を要約します。

graph LR
  subgraph X群["X群（p 変数）"]
    X1["x₁"]
    X2["x₂"]
    X3["x₃"]
  end
  subgraph Y群["Y群（q 変数）"]
    Y1["y₁"]
    Y2["y₂"]
  end
  X1 --> U["正準変量 u = aᵀX"]
  X2 --> U
  X3 --> U
  Y1 --> V["正準変量 v = bᵀY"]
  Y2 --> V
  U -. "相関 ρ を最大化" .- V

各群の中で重み $\mathbf a,\mathbf b$ を調整し、できあがる合成変数 $u,v$ の相関 $\rho$ が最大になるように選ぶ。これが正準相関分析の核心です。

記号の準備

2群を縦に積んだベクトル $\begin{pmatrix}\mathbf X\\ \mathbf Y\end{pmatrix}$ の分散共分散行列を、群ごとにブロック分割します。基礎は 分散共分散行列・相関行列 です。

• $\Sigma_{XX}$（$p\times p$）：$\mathbf X$ 群内の分散共分散
• $\Sigma_{YY}$（$q\times q$）：$\mathbf Y$ 群内の分散共分散
• $\Sigma_{XY}$（$p\times q$）：群間の共分散。$\Sigma_{YX}=\Sigma_{XY}^\top$

要するに「群内の関係（対角ブロック）と群間の関係（非対角ブロック）に分けて整理した」だけです。

2. 完全導出：相関最大化 → 一般化固有値問題

2.1 最大化する対象

正準変量 $u=\mathbf a^\top\mathbf X$、$v=\mathbf b^\top\mathbf Y$ の分散・共分散を、上のブロックで書き下します。線形結合の分散・共分散の公式（$\mathrm{Var}(\mathbf a^\top\mathbf X)=\mathbf a^\top\Sigma_{XX}\mathbf a$ など）から、

よって最大化したい相関は

要するに「群間共分散（分子）を、各群の標準偏差（分母）で割った2群版の相関係数」です。

2.2 スケール不定性を制約で固定する

この $\rho$ は $\mathbf a,\mathbf b$ を定数倍しても値が変わりません（分子・分母が同じ倍率でスケールするため）。つまり $\mathbf a,\mathbf b$ の大きさは無意味で、向きだけが本質です。そこで分散を1に固定する制約を課して一意化します。

この制約下では分母が1になるので、問題は「$\mathbf a^\top\Sigma_{XY}\mathbf b$ を最大化する」に簡約されます。要するに「向きの自由度だけ残し、分散1のスケールに固定した」わけです。

2.3 ラグランジュ未定乗数法

制約付き最大化なので、乗数 $\rho_1,\rho_2$（係数 $\tfrac12$ は後の式を綺麗にするため）を導入します。

$\mathbf a,\mathbf b$ で偏微分してゼロと置きます（2次形式の微分 $\partial(\mathbf a^\top A\mathbf a)/\partial\mathbf a=2A\mathbf a$、$A$ は対称、を使う。詳細は 重回帰分析 の行列微分公式と同じ）。

2.4 乗数が一致し、それが正準相関係数になる

式 (1) に左から $\mathbf a^\top$ を掛けると、左辺 $\mathbf a^\top\Sigma_{XY}\mathbf b$、右辺 $\rho_1\,\mathbf a^\top\Sigma_{XX}\mathbf a=\rho_1\cdot1=\rho_1$（制約より）。同様に式 (2) に左から $\mathbf b^\top$ を掛けると右辺は $\rho_2$。左辺はどちらも $\mathbf a^\top\Sigma_{XY}\mathbf b$ に等しいので、

つまりラグランジュ乗数そのものが、最大化された相関（正準相関係数 $\rho$）に一致するのです。要するに「制約を分散1に取ったおかげで、乗数＝共分散＝相関、となった」ということです。以下、$\rho_1=\rho_2=\rho$ と書きます。

2.5 $\mathbf b$ を消去して一般化固有値問題へ

式 (1) を $\mathbf a$ について解きます（$\Sigma_{XX}$ は正則と仮定）。

これを式 (2) に代入し、$\mathbf b$ だけの方程式にします。

両辺に左から $\Sigma_{YY}^{-1}$ を掛けると、標準的な固有値問題の形になります。

対称的に、式 (2) から $\mathbf b$ を消去すれば $\mathbf a$ 側の固有値問題が出ます（要点で示した形）。

2.6 結論：固有値の平方根が正準相関係数

導出から、次の3点が読み取れます。

1. 正準相関係数は固有値の平方根：固有値が $\lambda=\rho^2$ なので $\rho=\sqrt{\lambda}$。最大固有値に対応する固有ベクトルが第1正準変量の重み $\mathbf a,\mathbf b$ を与え、その $\sqrt{\lambda_1}$ が第1正準相関係数。
2. 正準変量は複数組ある：固有値を大きい順に $\lambda_1\ge\lambda_2\ge\cdots$ と並べると、第2・第3…正準変量が順に得られる。組の個数は $\min(p,q)$ 個（X側とY側の行列の階数で決まる）。
3. X側・Y側は同じ固有値を共有：$\Sigma_{XX}^{-1}\Sigma_{XY}\Sigma_{YY}^{-1}\Sigma_{YX}$ と $\Sigma_{YY}^{-1}\Sigma_{YX}\Sigma_{XX}^{-1}\Sigma_{XY}$ は非ゼロ固有値が一致する（$AB$ と $BA$ の非ゼロ固有値は等しい、という線形代数の事実による）。だからどちらを解いても同じ $\rho$ が得られ、片方の固有ベクトルから式 (3) でもう片方が定まる。

要するに「2群間の相関を最大化する作業は、共分散行列のブロックを組み合わせた行列の固有値分解に完全に置き換わる」ということです。固有値分解は 主成分分析（PCA） と同じ道具立てですが、対象とする行列が違う点が本質です。

⚠️ 第2以降の正準変量には直交性の制約が加わります。第2正準変量は第1正準変量と無相関（$\mathrm{Cov}(u_1,u_2)=0$ かつ $\mathrm{Cov}(v_1,v_2)=0$）という条件のもとで相関を最大化します。これは主成分分析で第2主成分が第1主成分と直交するのと同じ発想です。

3. 重回帰・主成分分析との関係

正準相関分析は、より馴染みのある2手法を特別な場合として含む「上位概念」と見ると整理できます。

graph TD
  CCA["正準相関分析<br/>X群（p変数）対 Y群（q変数）の相関最大化"]
  CCA -- "Y群が1変数 (q=1)" --> MR["重回帰の重相関係数<br/>複数 対 1"]
  PCA["主成分分析<br/>1群内の分散最大化"]
  CCA -. "対比：群間相関 vs 群内分散" .- PCA

3.1 重回帰（重相関係数）への縮退

$\mathbf Y$ が1変数（$q=1$）の場合を考えます。このとき $\mathbf b$ はスカラー倍だけの自由度しかなく、$v$ は実質 $y$ そのもの。正準相関係数は「$y$ と、説明変数の最適な線形結合 $\mathbf a^\top\mathbf X$ との相関」になります。これはまさに重回帰の重相関係数 $R$（＝$\sqrt{R^2}$、$R^2$ は決定係数）に一致します。

つまり重相関係数は、片方の群が1変数のときの正準相関係数。正準相関分析は重回帰を「目的変数も多変量」に拡張したものと言えます。

3.2 主成分分析との対比

両者とも「線形結合＋固有値分解」という骨格は同じですが、最大化する量が違います。

要するに「PCA は1つの群を要約するために分散を見る、CCA は2つの群の橋渡しのために相関を見る」という対比です。PCA の詳細は 主成分分析（PCA） を参照してください。

4. 引っかけポイント・注意点

⚠️ 相関の最大化であって因果ではない。 正準相関分析が見つけるのは2群間の関連の強さであり、X群がY群を引き起こすという因果は一切含意しません。「学力群と体力群に高い正準相関がある」は「両者が共変している」だけで、片方がもう片方の原因とは言えません。これは相関一般の注意（2変数の記述（散布図・共分散・相関係数）── 相関≠因果／rは直線関係しか測れない／外れ値1点で激変）と同じです。

⚠️ 正準変量の解釈は難しい。 相関を最大化するように選んだ重み $\mathbf a,\mathbf b$ は、数学的には最適でも意味づけが困難なことが多いです。「相関を最大化する向き」と「解釈しやすい向き」は別物だからです。実務では重み（正準係数）だけでなく、各元変数と正準変量の相関である構造係数（structure coefficient） を見て、どの変数が正準変量を主に担うかを解釈します。

⚠️ 片方が1変数なら重回帰に縮退する。 $q=1$ なら正準相関係数は重相関係数そのもの（3.1 節）。「正準相関分析は重回帰と無関係な別物」と思うのは誤りで、重回帰はその特殊ケースです。

⚠️ 線形関係しか捉えない。 線形結合の相関を見るので、非線形な関連は取りこぼします。非線形に拡張したカーネル正準相関分析などもありますが、準1級・1級の基本範囲は線形版です。

⚠️ 共分散行列の正則性が必要。 導出で $\Sigma_{XX}^{-1},\Sigma_{YY}^{-1}$ を使うため、群内に強い多重共線性があると不安定化します。変数数が標本数に比べて多い場合は正則化版が使われます（要最新確認）。

5. 試験での問われ方（級ごとの差）

正準相関分析は多変量解析の中でも出題頻度は低め（重要度C） ですが、概念と固有値問題への帰着は問われうるので、級ごとに到達点を分けて押さえます（具体的な出題範囲・頻度は年度により変わるため要最新確認）。

準1級の多変量解析の土台として 分散共分散行列・相関行列・主成分分析（PCA） を先に固めておくと、CCA は「PCA の固有値分解を2群間相関に置き換えたもの」として一気に理解できます。

よくある疑問（Q&A）

Q1. 正準相関分析と重回帰は何が違うのですか？

扱う変数の構成が違います。重回帰は「複数の説明変数 → 1つの目的変数」、正準相関分析は「複数 → 複数」です。実際、目的変数群を1変数にすると（$q=1$）、正準相関係数は重回帰の重相関係数にぴったり一致します。要するに「正準相関分析は重回帰の目的変数側も多変量に拡張した一般形」で、重回帰はその特殊ケースだと理解すると整理できます。

Q2. 主成分分析と何が違うのですか？両方とも固有値分解ですよね。

骨格（線形結合＋固有値分解）は同じですが、最大化する量が違います。主成分分析は1つの変数群の中で**分散（情報量）が最大の方向を探します。正準相関分析は2つの変数群の間で相関（共通性）**が最大になる方向を探します。対象とする行列も、PCA は分散共分散行列 $\Sigma$ そのもの、CCA は $\Sigma_{XX}^{-1}\Sigma_{XY}\Sigma_{YY}^{-1}\Sigma_{YX}$ です。「群内をまとめる PCA／群間を橋渡す CCA」と覚えると区別できます。

Q3. 正準変量はいくつ求まりますか？

$\min(p,q)$ 組です。$p$ は X 群、$q$ は Y 群の変数の数。固有値を大きい順に並べ、最大固有値から第1・第2…正準変量が定まります。第2以降は「直前までの正準変量と無相関」という直交条件のもとで相関を最大化します。固有値の平方根がそれぞれの正準相関係数で、$1\ge\rho_1\ge\rho_2\ge\cdots\ge0$ の順に小さくなります。

Q4. 正準相関係数が高ければ、X群がY群の原因と言えますか？

言えません。正準相関分析が示すのは2群間の関連の強さであって、因果ではありません。高い正準相関は「2群が一緒に動いている」ことを意味するだけで、向き（どちらが原因か）も第3の交絡要因の有無も判定できません。これは相関係数一般の注意（相関は因果ではない）がそのまま2群版に拡張されたものです。

Q5. 求めた正準変量の重みが解釈しにくいのですが、使い方が間違っていますか？

間違いではありません。これは正準相関分析の本質的な弱点です。重み $\mathbf a,\mathbf b$ は「相関を最大化する」目的で機械的に決まるため、数学的に最適でも意味づけが難しいことが多いのです。「相関を最大にする向き」と「解釈しやすい向き」は一致しません。実務では、重み（正準係数）そのものより、各元変数とその正準変量の相関である構造係数を見て「この正準変量は主にどの変数を反映しているか」を解釈します。要するに「重みは予測の道具、構造係数は解釈の道具」と使い分けます。

まとめ

• 正準相関分析は、2つの変数群 $\mathbf X$（$p$ 変数）と $\mathbf Y$（$q$ 変数）の線形結合 $u=\mathbf a^\top\mathbf X$、$v=\mathbf b^\top\mathbf Y$ の相関を最大化する手法。$u,v$ が正準変量、最大相関が正準相関係数 $\rho$。
• 相関 $\rho=\dfrac{\mathbf a^\top\Sigma_{XY}\mathbf b}{\sqrt{\mathbf a^\top\Sigma_{XX}\mathbf a}\sqrt{\mathbf b^\top\Sigma_{YY}\mathbf b}}$ を、分散1の制約下でラグランジュ未定乗数法により最大化すると、一般化固有値問題 $\Sigma_{XX}^{-1}\Sigma_{XY}\Sigma_{YY}^{-1}\Sigma_{YX}\mathbf a=\rho^2\mathbf a$ に帰着する。正準相関係数は固有値の平方根。
• 正準変量の組は $\min(p,q)$ 個。固有値の大きい順に第1・第2…が決まり、X側とY側は固有値を共有する。
• Y群が1変数なら重相関係数（重回帰）に縮退。主成分分析は群内の分散最大、正準相関は群間の相関最大、という対比で整理する。
• 注意：相関であって因果ではない／正準変量の解釈は構造係数で行う／線形関係のみ／共分散行列の正則性が必要。

関連ノート

• 分散共分散行列・相関行列　ブロック分割 $\Sigma_{XX},\Sigma_{YY},\Sigma_{XY}$ の土台
• 主成分分析（PCA）　固有値分解の道具立てを共有。群内分散 vs 群間相関の対比
• 重回帰分析　Y群が1変数のときに縮退する重相関係数。行列微分の公式も共通
• 2変数の記述（散布図・共分散・相関係数）── 相関≠因果／rは直線関係しか測れない／外れ値1点で激変　相関係数の基礎。相関は因果ではないという注意の出発点
• 多変量解析（Phase 6 目次）　多変量解析ドメインの全体像