【E資格】パラメータの初期化戦略｜Xavier(Glorot)初期化とHe(Kaiming)初期化
2026年7月6日
ニューラルネットワークの重みをどのような乱数で初期化するかを学ぶ項目です。初期値の分散を適切に設計することで、深いネットワークでも信号や勾配が消失・発散せずに学習を始められる理由を理解します。
【E資格】適応的学習率の最適化手法｜AdaGrad・RMSProp・Adamの違い
2026年7月6日
学習率をパラメータごとに自動調整する最適化アルゴリズムを学ぶ項目です。SGDの「学習率を1つ決め打ちする難しさ」を解消する発想として、AdaGrad・RMSProp・Adamの3つの手法とその関係性を理解します。
【E資格】誤差逆伝播法を徹底解説｜連鎖律・デルタ・計算グラフと自動微分
2026年7月6日
誤差逆伝播法(バックプロパゲーション)は、ニューラルネットワークの全パラメータの勾配を効率よく計算するアルゴリズムであり、深層学習のすべての学習を支えるエンジンです。この項目では、その数学的な核である連鎖律、層ごとの誤差を表すデルタ、そして現代フレームワークの基盤である計算グラフと自動微分を学びます。
【E資格】SGDとモメンタム｜最急降下法・ミニバッチ学習・NAGを解説
2026年7月5日
深層学習の学習とは、損失関数を最小化するパラメータを勾配に沿って探す最適化の過程です。この項目では、最急降下法から確率的勾配降下法(SGD)、そしてモメンタムとNesterov Accelerated Gradientまで、最適化アルゴリズムの基礎を学びます。更新式の計算はE資格の定番問題です。
【E資格】活性化関数まとめ｜シグモイド・tanh・ReLU・Leaky ReLU・GELU
2026年7月5日
活性化関数は、ニューラルネットワークに非線形性を与える心臓部です。この項目では、シグモイド・tanh・ReLU・Leaky ReLU・GELUの定義と性質、そして勾配消失問題との関係を学びます。各関数の式・値域・微分はE資格の計算問題の定番です。