【G検定】オートエンコーダ（autoencoder）

【G検定まとめ】要点整理＆当日用カンペの項目別詳解ページです。

詳細な知識や実装は試験には必ずしも必須ではありませんが、試験対策として理解を深めたい方はぜひ最後までご覧ください。

G検定まとめはこちら

オートエンコーダ

オートエンコーダは、入力層と出力層が同じになるよう設計されたニューラルネットワークの一種です。このネットワークは、可視層（入力層と出力層がセットになったもの）と隠れ層の2層から成り立っています。オートエンコーダは、エンコードとデコードの2つの主要な処理を行います。

エンコードの過程では、入力層から隠れ層へのデータが次元削減されます。これは、隠れ層の次元数を可視層よりも小さく設定することにより達成され、入力データの要約（圧縮）が行われます。デコードの過程では、隠れ層から出力層へのデータが元の次元に戻されます。このようにして、オートエンコーダは入力データの特徴をなるべく損なうことなく、より少ない次元で表現することができます。

積層オートエンコーダは、オートエンコーダを多層化したものであり、複数の隠れ層を持ちます。このモデルでは、入力層に近い層から順に逐次的に学習を行います。各隠れ層の学習が完了すると、最終的に出力層が追加され、モデルが完成します。この逐次的な学習手順は「事前学習」と呼ばれ、ファインチューニングを通して最終的にモデルの調整が行われます。

オートエンコーダは、主に次元削減のために使用され、特に大量のデータを扱う際に有効です。例えば、大きな画像データを処理する際に、オートエンコーダを使用してデータの次元を削減し、計算量を減らすことができます。

基本的なオートエンコーダの他に、いくつかの変種が存在します。例えば、変分オートエンコーダ（VAE）は、生成モデルとしても使用され、入力データから新しいデータを生成することができます。また、デノイジングオートエンコーダは、入力データにノイズを加えてから、元のデータを復元することを学習します。これにより、モデルがより堅牢な特徴抽出を行うことができるようになります。