【E資格】第18回:AdaGradとは【ゼロから作るDeep Learning】

class AdaGrad:
    # コンストラクタ
    def __init__(self, lr=0.01):
        self.lr = lr  # 学習率を初期化
        self.h = None  # 勾配の二乗和を保存するための変数を初期化
        
    # パラメータ更新メソッド
    def update(self, params, grads):
        # 初回の呼び出し時にhを初期化
        if self.h is None:
            self.h = {}
            for key, val in params.items():
                self.h[key] = np.zeros_like(val)  # 各パラメータと同じ形状のゼロ配列を生成
            
        # 各パラメータの更新
        for key in params.keys():
            # 勾配の二乗を加算
            self.h[key] += grads[key] * grads[key]
            # AdaGradの更新式に従ってパラメータ更新
            # 学習率を勾配の二乗和の平方根で割る（1e-7はゼロ除算を防ぐための微小な値）
            params[key] -= self.lr * grads[key] / (np.sqrt(self.h[key]) + 1e-7)

# NumPyは数値計算を行うためのライブラリです
import numpy as np
# Matplotlibはデータの可視化を行うためのライブラリです
import matplotlib.pyplot as plt
# LogNormはカラーマップの正規化を行うためのクラスです
from matplotlib.colors import LogNorm

# AdaGradクラスの定義
class AdaGrad:
    # 初期化メソッド
    def __init__(self, lr=0.01):
        self.lr = lr  # 学習率を初期化
        self.h = None  # 勾配の二乗和を保存するための変数を初期化

    # パラメータ更新メソッド
    def update(self, params, grads):
        # 初回の呼び出し時にhを初期化
        if self.h is None:
            self.h = {}
            for key, val in params.items():
                self.h[key] = np.zeros_like(val)  # 各パラメータと同じ形状のゼロ配列を生成

        # 各パラメータの更新
        for key in params.keys():
            # 勾配の二乗を加算
            self.h[key] += grads[key] * grads[key]
            # AdaGradの更新式に従ってパラメータ更新
            # 学習率を勾配の二乗和の平方根で割る（1e-7はゼロ除算を防ぐための微小な値）
            params[key] -= self.lr * grads[key] / (np.sqrt(self.h[key]) + 1e-7)

# 最適化対象の関数を定義
def f(x, y):
    return (1/20) * x ** 2 + y ** 2

# 関数の勾配を定義
def grad_f(x, y):
    dfdx = (1/10) * x
    dfdy = 2 * y
    return dfdx, dfdy

# パラメータを初期化
params = {'x': -7.0, 'y': 2.0}
# AdaGradクラスのインスタンスを生成
adagrad = AdaGrad(lr=1.5)

# パラメータの更新経路を保存するためのリストを初期化
x_history = []
y_history = []

# 最適化処理
for i in range(30):
    # 現在のパラメータをリストに追加
    x_history.append(params['x'])
    y_history.append(params['y'])
    
    # 勾配を計算
    grads = {'x': grad_f(params['x'], params['y'])[0], 'y': grad_f(params['x'], params['y'])[1]}
    # パラメータを更新
    adagrad.update(params, grads)

# 等高線プロットのための格子点を生成
x = np.arange(-10, 10, 0.01)
y = np.arange(-3, 3, 0.01)
X, Y = np.meshgrid(x, y)
# 関数の値を計算
Z = f(X, Y)

# 新しい図を生成
plt.figure(figsize=(12, 8))
# 等高線プロットを描画
plt.contour(X, Y, Z, levels=np.logspace(-3, 2, 35), norm=LogNorm(), cmap=plt.cm.jet)
# パラメータの更新経路を描画
plt.plot(x_history, y_history, 'ro-', linewidth=2, markersize=5)
# x軸とy軸の範囲を設定
plt.xlim(-10, 10)
plt.ylim(-3, 3)
# x軸とy軸のラベルを設定
plt.xlabel('x')
plt.ylabel('y')
# タイトルを設定
plt.title('Optimization of function using AdaGrad')
# 図を表示
plt.show()