🎓 Phase 7 ニューラルネットワーク基礎（ドメイン目次）
Phase 7 ニューラルネットワーク基礎 目次
ここからが深層学習の入り口です。ニューラルネットワーク（NN）は、単純な計算ユニット（ニューロン）を層状に積み重ね、勾配降下法で学習させる柔軟なモデルです。線形モデルやロジスティック回帰（ロジスティック回帰）が「1個のニューロン」に相当し、それを多層に重ねて非線形な表現力を獲得します。
この Phase の骨格は3つです。
- 構造と表現力：パーセプトロンと多層パーセプトロン（万能近似定理＝十分大きい NN は任意の連続関数を近似できる）
- 学習の仕組み：誤差逆伝播法（連鎖律と計算グラフで勾配を効率的に計算）＋ 活性化関数（非線形性と勾配消失）
- 学習を安定・汎化させる技術：重み初期化と正規化・ニューラルネットの正則化・最適化の実務
学習エンジンは Phase 6 です。NN の学習は結局「誤差逆伝播法で勾配を出し、モーメンタムとAdam系最適化で下る」の繰り返しなので、Phase 6 を土台に読むと一本につながります。
- 前提：勾配降下法・モーメンタムとAdam系最適化（学習エンジン）・ロジスティック回帰（1ニューロンの原型）・汎化と過学習・バイアスバリアンス分解（正則化が効く理由）
- この後の土台：ここでの MLP・誤差逆伝播・活性化が、CNN・RNN・Transformerの共通部品になります
トピック一覧
- パーセプトロンと多層パーセプトロン（基礎）— ニューロン・層・万能近似定理
- 誤差逆伝播法（標準）— 連鎖律・計算グラフによる勾配の効率計算
- 活性化関数（基礎）— sigmoid／tanh／ReLU系・勾配消失問題
- 重み初期化と正規化（標準）— Xavier／He初期化・バッチ正規化による学習の安定化
- ニューラルネットの正則化（標準）— Dropout・重み減衰・データ拡張
- 最適化の実務（標準）— 学習率スケジュール・ミニバッチ・学習を回すコツ
関連ドメイン
- 最適化と学習理論 目次（学習エンジン＝勾配降下／Adam／正則化の理論）
- 教師あり学習・分類 目次（1ニューロン＝ロジスティック回帰）
- 深層学習アーキテクチャ 目次（MLPを土台にCNN・RNN・Transformerへ）
- 機械学習テキスト 全体目次