【E資格】第19回:Adamとは【ゼロから作るDeep Learning】

# Adam クラスの定義
class Adam:
    # インスタンス化時に学習率(lr), 一次モーメントの係数(beta1), 二次モーメントの係数(beta2)を初期設定
    def __init__(self, lr=0.001, beta1=0.9, beta2=0.999):
        self.lr = lr  # 学習率
        self.beta1 = beta1  # 一次モーメント推定に使用する係数
        self.beta2 = beta2  # 二次モーメント推定に使用する係数
        self.iter = 0  # イテレーションのカウント
        self.m = None  # 一次モーメント（移動平均）
        self.v = None  # 二次モーメント（移動分散）
        
    # パラメータの更新メソッド
    def update(self, params, grads):
        # 最初の更新時に一次モーメントと二次モーメントの格納用の辞書をパラメータと同じ形で初期化
        if self.m is None:
            self.m, self.v = {}, {}
            for key, val in params.items():
                self.m[key] = np.zeros_like(val)  # 一次モーメント用の辞書
                self.v[key] = np.zeros_like(val)  # 二次モーメント用の辞書
        
        # イテレーション数をカウントアップ
        self.iter += 1
        
        # 学習率の時間的なスケーリング（Adamのバイアス補正）
        lr_t  = self.lr * np.sqrt(1.0 - self.beta2**self.iter) / (1.0 - self.beta1**self.iter)
        
        # 各パラメータについて
        for key in params.keys():
            # 一次モーメント（過去の勾配の減衰平均）を更新
            self.m[key] += (1 - self.beta1) * (grads[key] - self.m[key])
            # 二次モーメント（過去の勾配の二乗の減衰平均）を更新
            self.v[key] += (1 - self.beta2) * (grads[key]**2 - self.v[key])
            
            # 勾配によるパラメータの更新（Adamの更新式）
            # 二次モーメントの平方根（+微小値でゼロ除算を防ぐ）で一次モーメントをスケーリングし、学習率をかけてパラメータを更新
            params[key] -= lr_t * self.m[key] / (np.sqrt(self.v[key]) + 1e-7)

# 必要なライブラリをインポート
import numpy as np
import matplotlib.pyplot as plt

# Adamオプティマイザのクラスを定義
class Adam:
    # 初期化メソッド
    def __init__(self, lr=0.001, beta1=0.9, beta2=0.999):
        self.lr = lr  # 学習率
        self.beta1 = beta1  # モーメンタムの係数
        self.beta2 = beta2  # RMSpropの係数
        self.iter = 0  # イテレーション数の初期化
        self.m = None  # モーメンタムの初期化
        self.v = None  # RMSpropの初期化
        
    # パラメータの更新メソッド
    def update(self, params, grads):
        # mとvが初期化されていない場合、それらをパラメータと同じ形状で初期化する
        if self.m is None:
            self.m, self.v = {}, {}
            for key, val in params.items():
                self.m[key] = np.zeros_like(val)
                self.v[key] = np.zeros_like(val)
        
        # イテレーション数を増やす
        self.iter += 1
        # 学習率の更新（Adamの特性により、イテレーションの進行とともに学習率が調整される）
        lr_t  = self.lr * np.sqrt(1.0 - self.beta2**self.iter) / (1.0 - self.beta1**self.iter)         
        
        # 各パラメータに対して更新を行う
        for key in params.keys():
            # モーメンタムの計算
            self.m[key] += (1 - self.beta1) * (grads[key] - self.m[key])
            # RMSpropの計算
            self.v[key] += (1 - self.beta2) * (grads[key]**2 - self.v[key])
            
            # パラメータの更新
            params[key] -= lr_t * self.m[key] / (np.sqrt(self.v[key]) + 1e-7)

# 目的関数の定義
def f(x, y):
    return (1/20) * x**2 + y**2

# 目的関数の勾配の定義
def gradient_f(x, y):
    return np.array([x/10, 2*y])

# Adamオプティマイザのインスタンスを作成
optimizer = Adam(lr=0.3)

# パラメータの初期化
params = {"x": -7.0, "y": 2.0}
# 最適化の経路を保存するためのリスト
path = [(params["x"], params["y"])]

# 最適化ループ
for i in range(30):
    # 勾配の計算
    grads = {"x": gradient_f(params["x"], params["y"])[0], "y": gradient_f(params["x"], params["y"])[1]}
    # パラメータの更新
    optimizer.update(params, grads)
    # 現在のパラメータの値を経路に追加
    path.append((params["x"], params["y"]))

# 経路をnumpy配列に変換
path = np.array(path)

# 表示用のxとyの値を生成
x = np.arange(-10, 10, 0.1)
y = np.arange(-5, 5, 0.1)
X, Y = np.meshgrid(x, y)
# Zを計算するために目的関数を適用
Z = f(X, Y)

# プロットの初期化
plt.figure(figsize=(10, 8))
# 目的関数の等高線をプロット
plt.contour(X, Y, Z, levels=np.logspace(-2, 2, 20))
# パラメータの更新経路をプロット
plt.plot(path[:,0], path[:,1], 'o-', color='red')
# x軸のラベルを設定
plt.xlabel('x')
# y軸のラベルを設定
plt.ylabel('y')
# タイトルを設定
plt.title('Adam Optimization')
# グリッドを表示
plt.grid()
# プロットを表示
plt.show()