ガウス通信路と容量

🎓 レベル：発展　|　重要度：A（必須）

📎 前提：微分エントロピー、通信路容量　|　次：レート歪み理論入門

要点（BLUF）

ガウス通信路 $Y=X+Z$ （ $Z\sim\mathcal N(0,N)$ は加法ガウスノイズ）。入力に電力制約 $\mathbb E[X^2]\le P$ を課したときの容量は

C = \tfrac12\log_2\!\Big(1+\tfrac{P}{N}\Big) = \tfrac12\log_2(1+\mathrm{SNR}) \quad [\text{bit/通信路使用}]

容量を達成する最適入力はガウス分布（微分エントロピーの「分散固定でガウスが最大」が効く）。
帯域 $B$ Hz を含めると シャノン・ハートレーの定理 $C=B\log_2(1+\mathrm{SNR})$ bit/秒。Wi-Fi も携帯も光通信も、この式が速度の上限を決めます。

1. 導出：容量は微分エントロピーの差

容量は相互情報量の最大化 $C=\max_{p(x):\,\mathbb E[X^2]\le P} I(X;Y)$ 。連続なので

I(X;Y) = h(Y) - h(Y\mid X) = h(Y) - h(Z)

（ $Y=X+Z$ で $X$ を固定すると $Y$ のばらつきはノイズ $Z$ そのものなので $h(Y\mid X)=h(Z)$ ）。 $h(Z)=\frac12\log_2(2\pi e N)$ は固定。残るは $h(Y)$ の最大化です。 $Y=X+Z$ の分散は $\mathbb E[X^2]+N\le P+N$ で、分散が固定なら $h(Y)$ はガウスで最大（微分エントロピー）。 $Y$ がガウスになるのは $X$ がガウスのとき。よって

C = \tfrac12\log_2(2\pi e(P+N)) - \tfrac12\log_2(2\pi e N) = \tfrac12\log_2\!\Big(1+\tfrac{P}{N}\Big)

「信号パワー $P$ をノイズパワー $N$ で割った比（SNR）」だけで決まります。

2. シャノン・ハートレーの定理

帯域 $B$ Hz の連続時間通信路は、標本化定理により毎秒 $2B$ 回の独立な使用に相当します。1回あたり容量 $\frac12\log_2(1+\mathrm{SNR})$ なので、毎秒では

C = B\log_2\!\Big(1+\frac{S}{N}\Big) \quad [\text{bit/秒}]

ここで $S/N$ は信号対雑音電力比。帯域を広げるか SNR を上げれば速度が上がる——ただし SNR は対数で効くので、SNR を10倍にしても容量は $\log_2 10\approx3.3$ bit/使用しか増えません。帯域の方が線形に効くので、広帯域化（5G のミリ波など）が速度向上の主役になります。

3. コード：ガウス容量と SNR（底2, bit）

SNR を変えて容量 $\frac12\log_2(1+\mathrm{SNR})$ を計算し、帯域込みのビット毎秒も求めます。

import numpy as np
# ガウス通信路 Y=X+Z, Z~N(0,N), 電力制約 E[X^2]<=P
# 容量 C=0.5 log2(1+P/N) bit/使用 （SNR=P/N）
print("ガウス通信路の容量 C=0.5 log2(1+SNR) bit/通信路使用")
for snr_db in [0,3,10,20]:
    snr=10**(snr_db/10)
    C=0.5*np.log2(1+snr)
    print(f"  SNR={snr_db:>3} dB (={snr:7.3f}): C={C:.4f} bit/使用")
print("-"*56)
# シャノン・ハートレー：帯域 B Hz では C=B log2(1+SNR) bit/秒
B=1e6  # 1 MHz
for snr_db in [10,20,30]:
    snr=10**(snr_db/10)
    C=B*np.log2(1+snr)
    print(f"  B={B:.0e}Hz, SNR={snr_db}dB: C={C/1e6:.3f} Mbit/s")

出力：

ガウス通信路の容量 C=0.5 log2(1+SNR) bit/通信路使用
  SNR=  0 dB (=  1.000): C=0.5000 bit/使用
  SNR=  3 dB (=  1.995): C=0.7913 bit/使用
  SNR= 10 dB (= 10.000): C=1.7297 bit/使用
  SNR= 20 dB (=100.000): C=3.3291 bit/使用
--------------------------------------------------------
  B=1e+06Hz, SNR=10dB: C=3.459 Mbit/s
  B=1e+06Hz, SNR=20dB: C=6.658 Mbit/s
  B=1e+06Hz, SNR=30dB: C=9.967 Mbit/s

出力の意味：SNR が $0$ dB（信号とノイズが等しい）でも容量 $0.5$ bit/使用は残り、SNR を上げると容量が増えますが伸びは緩やか—— $10$ dB（10倍）で $1.73$ 、 $20$ dB（100倍）で $3.33$ bit/使用と、SNR を10倍にするごとに約 1.66 bit しか増えない（ $\frac12\log_2 10$ ）。これが「電力を10倍注いでも速度は1.6倍少々」という対数の壁です。一方、帯域 $B$ は線形に効くので、 $1$ MHz・SNR $20$ dB で $6.66$ Mbit/s。速度を稼ぐには電力より帯域、という現代無線設計の指針がそのまま出ています。

4. 数式の直観的意味

ガウス容量は「ノイズの球にどれだけ信号の球を詰められるか」の連続版です。受信信号 $Y$ は分散 $P+N$ の球に収まり、各送信点はノイズで半径 $\sqrt N$ の球にぼやける。区別できる送信点の数は体積比 $\approx\big(\frac{P+N}{N}\big)^{n/2}$ で、対数を取って $n$ で割ると $\frac12\log_2(1+P/N)$ 。離散の球充填（誤り検出と訂正の基礎）とまったく同じ発想です。SNR が対数で効くのは「区別可能な振幅レベルの数」が $\sqrt{1+\mathrm{SNR}}$ に比例し、その対数が bit 数になるから。この式は、通信路符号化定理（シャノンの通信路符号化定理）の連続版として、実在する通信システムの速度限界を直接与えます。

⚠️ よくある誤解

「電力を上げれば速度は比例して上がる」ではない：SNR は対数で効きます。電力10倍でも容量は $\frac12\log_2 10\approx1.66$ bit/使用しか増えません。帯域は線形。
「最適入力は何でもよい」ではない：容量達成には入力をガウス分布にする必要があります（分散固定で $h(Y)$ 最大）。
「ノイズがガウスでなくても同じ式」ではない：この式は加法ガウスノイズの場合。同じ分散ならガウスノイズが最悪（容量最小）なので、 $\frac12\log_2(1+\mathrm{SNR})$ は他のノイズに対する下界になります。
「帯域を無限に広げれば容量も無限」ではない： $B\to\infty$ では $C\to\frac{P}{N_0}\log_2 e$ （ $N_0$ は雑音電力密度）に飽和します。広帯域では SNR が下がるため。

対応シミュレーション

本文のコードでガウス容量と SNR・帯域の効き方を実証済み。