【G検定まとめ2026】18.畳み込み層

1. 畳み込み層の基礎的な知識を理解する

手法	仕組み	主な利点	主な応用例
通常の畳み込み	フィルタを連続した画素に適用し、要素ごとの積和を計算する	局所特徴の基本的な抽出	画像認識全般 (CNN の基本構成)
Atrous Convolution	フィルタ要素間に隙間 (dilation rate) を設けて画素間隔を拡張	プーリングなしで受容野を拡大、解像度を保持	セマンティックセグメンテーション (DeepLab 系)
Depthwise Separable Convolution	Depthwise (チャネルごと) と Pointwise (1×1) の 2 段に分割	計算量・パラメータ数を大幅削減	モバイル向けモデル (MobileNet, Xception)
Dilated Convolution	フィルタ要素間に隙間を設ける (Atrous Convolution と同義)	パラメータ増なしで受容野を拡大	ピクセル単位予測タスク

注: Atrous Convolution と Dilated Convolution は同義。

フィルタによる特徴抽出：畳み込み層は、画像データなどの入力から重要な特徴を抽出するために使用されます。この層では、フィルタ（カーネルとも呼ばれます）を使用して特徴を捉える処理が行われます。この処理は畳み込み処理と呼ばれ、入力データから特徴マップを生成します。畳み込み処理の具体的な流れを見てみましょう。画像データを入力とする場合、フィルタは通常3×3や5×5などの小さな正方形の行列です。このフィルタを画像の左上から順に移動させながら、フィルタと重なる部分の画像の値とフィルタの値を掛け合わせ、その総和を計算します。この操作を画像全体に対して繰り返すことで、特徴マップが作られます。

フィルタの構造と学習：畳み込み層のフィルタは、入力データの構造に合わせて設計されます。例えば、幅W、高さH、チャネル数Nの入力データに対しては、フィルタも3次元の構造を持ち、サイズは例えば3×3×Nのようになります。ここで注目すべき点は、フィルタの値を人間が手動で設定するのではないということです。フィルタの値は、ネットワークの学習過程で自動的に調整されます。これにより、入力データの特徴を効果的に捉えるフィルタが形成されるのです。フィルタの学習には、ニューラルネットワークの一般的な学習手法である誤差逆伝播法が用いられます。

パディングとストライド：畳み込み処理には、いくつかの重要な概念があります。その一つがパディングです。畳み込み処理を行うと、出力される特徴マップのサイズは入力よりも小さくなります。これを防ぐために、入力データの周囲に0などの値を追加するパディング処理が行われます。パディングの量は通常、(フィルタサイズ – 1) / 2 とされ、これにより入力と同じサイズの特徴マップを得ることができます。もう一つの重要な概念がストライドです。ストライドは、フィルタを移動させる際の歩幅を指します。ストライドを1に設定すると、フィルタは1ピクセルずつ移動します。ストライドを大きくすると、フィルタの移動幅が広がり、結果として得られる特徴マップのサイズが小さくなります。

2. 全結合層と畳み込み層の差異について、説明できる

全結合層の特徴：全結合層は、その名前が示す通り、ある層のすべてのニューロンが次の層のすべてのニューロンと接続している構造を持ちます。この層では、入力の各要素に重みを掛けて合計し、その結果に活性化関数を適用することで出力を生成します。全結合層の主な特徴は、入力データの全体的な特徴を捉える能力にあります。しかし、入力の空間的な構造を考慮しないため、画像のような構造化されたデータの処理には必ずしも適していません。

畳み込み層の特徴：畳み込み層は、主に画像処理を目的として開発された層です。この層の最大の特徴は、入力データの空間的な構造を維持したまま特徴を抽出できる点にあります。畳み込み層の動作原理は、フィルタ（またはカーネル）と呼ばれる小さな行列を使用します。このフィルタを用いて、入力データの局所的な領域に対して畳み込み演算を行います。フィルタを入力データ全体にわたって移動させることで、局所的な特徴を抽出し、特徴マップを生成します。畳み込み層の大きな利点は、パラメータの共有と局所的な接続にあります。同じフィルタを入力データの異なる位置で使用することで、パラメータの数を大幅に減らし、効率的な学習を実現します。また、局所的な接続により、画像の位置に依存しない特徴の検出が可能になります。畳み込み層では、フィルタのサイズやストライド（フィルタの移動幅）、パディング（入力データの周囲に追加する要素）などの設定を調整することで、出力の特性を制御できます。これにより、様々な大きさや複雑さの特徴を捉えることができます。

両層の組み合わせ：全結合層と畳み込み層は、それぞれの特性を活かして組み合わせて使用されることが多いです。例えば、畳み込みニューラルネットワーク（CNN）では、複数の畳み込み層とプーリング層を重ねた後に、全結合層を配置します。この構造により、局所的な特徴と全体的な特徴の両方を考慮した学習が可能になります。

3. 畳み込み層の役割について説明できる

畳み込み層の主な役割は、入力データに対してフィルタ（またはカーネル）を適用し、特徴マップを生成することです。まず、畳み込み処理では、小さなサイズのフィルタ（多くの場合3×3などの正方形）を用います。このフィルタを入力データの上で左上から順に移動させ、フィルタと重なる部分のデータとフィルタの値を掛け合わせ、その総和を取ります。この操作により、入力データの局所的な特徴を捉えることができます。畳み込み層のフィルタは、入力データの幅、高さ、チャネル数に応じた3次元の構造を持ちます。

例えば、入力が幅W×高さH×チャネル数Nの場合、フィルタも同じくN個のチャネルを持つ3次元の形状となります。重要なのは、これらのフィルタの値が学習によって自動的に調整されるという点です。ネットワークは、与えられたタスクに最適な特徴を抽出できるよう、誤差逆伝播法を用いてフィルタの値を更新していきます。畳み込み層には、入力サイズの調整や特徴マップのサイズ制御のための機能もあります。例えば、パディングを使用することで、入力データの周囲に値を追加し、出力サイズを調整できます。また、ストライドを調整することで、フィルタの移動幅を変え、出力サイズを制御することができます。

4. 畳み込み層のパラメータ数について理解する

畳み込み層の処理では、入力データに対してフィルタを適用します。一般的に、フィルタのサイズは3×3など比較的小さなものが使われます。入力データが幅W、高さH、チャネル数Nの3次元構造を持つ場合、それに対応するフィルタも3次元の構造を持ちます。例えば、3×3×Nのサイズになります。フィルタの値は、ネットワークの学習過程で自動的に調整されます。人が手動で値を決めるのではなく、誤差逆伝播法を用いて最適な値を学習していきます。この学習可能なフィルタの値がパラメータとなります。畳み込み層のパラメータ数を計算する際は、フィルタのサイズとその数を考慮する必要があります。例えば、3×3×Nのフィルタを使用し、出力チャネル数（フィルタの数）をMとすると、パラメータ数は3×3×N×Mとなります。さらに、畳み込み層にはバイアス項も存在します。各フィルタに対して1つのバイアスが設定されるため、バイアスのパラメータ数はフィルタの数Mに等しくなります。したがって、畳み込み層の全パラメータ数は、フィルタのパラメータ数とバイアスのパラメータ数を合わせた(3×3×N×M) + Mとなります。このように、畳み込み層のパラメータ数は、入力のチャネル数、フィルタのサイズ、そしてフィルタの数（出力チャネル数）によって決まります。これらの要素を適切に設定することで、ネットワークの表現力と計算効率のバランスを取ることができます。

5. 畳み込み層が適用できるデータの特性について理解する

畳み込み層が効果的に機能するデータには、主に二つの特性があります。一つ目は、データが格子状の構造を持っていることです。例えば、画像データは縦と横の2次元の格子状構造を持っています。各画素が格子の一つのセルに対応し、隣接する画素同士に関連性があります。二つ目の特性は、局所的な特徴が重要であることです。畳み込み処理では、小さなサイズのフィルタ（多くの場合3×3など）を用いて、データの一部分ずつを見ていきます。このアプローチは、データの局所的な特徴を捉えるのに適しています。画像処理を例に考えると理解しやすくなります。画像の中の物体を認識する際、私たちは通常、画像全体を一度に見るのではなく、部分的な特徴に注目します。例えば、目や鼻、口などの特徴的な部分を見て顔を認識します。畳み込み層も同様の方法で、局所的な特徴を抽出し、それらを組み合わせて全体の特徴を理解します。畳み込み層の処理をより詳しく見ていきます。フィルタ（またはカーネル）を用いて、特徴を特徴マップとして抽出する畳み込み処理を行います。この処理は、フィルタを入力データの左上から順番に重ね合わせていき、同じ位置の値を掛け合わせて総和をとります。

このような処理の特性から、畳み込み層は画像データ以外にも、時系列データや音声データなど、格子状の構造を持ち、局所的な特徴が重要なデータに広く適用できます。例えば、音声データでは時間軸と周波数軸の2次元の格子状構造があり、特定の時間・周波数帯域の特徴が重要になります。畳み込み層の利点は、データの構造を活かしながら効率的に特徴を抽出できることです。全結合層と比べて、畳み込み層は局所的な接続と重み共有という特性を持っています。これにより、パラメータ数を大幅に削減しつつ、位置の変化に対して頑健な特徴抽出が可能になります。

---

キーワード解説

Atrous Convolution

「Atrous Convolution（またはDilated Convolution）」は、通常の畳み込みの画素間隔を拡張して適用する手法である。これにより、畳み込み層で広範囲の特徴を捉えながらも、解像度を低下させずに空間的な情報を保持することができる。一般にCNNでのプーリング層によるダウンサンプリングが画像の詳細な情報を失うことに対し、Atrous Convolutionはこの欠点を克服し、特にセマンティックセグメンテーションなどのタスクで効果的に機能する。Atrous Convolutionは、例えば「DeepLab」シリーズのモデルで活用されており、異なる「dilation rate（拡張率）」を設定することで、ネットワークの受容野を動的に調整し、異なるスケールの特徴を同時に捉える「Atrous Spatial Pyramid Pooling（ASPP）」といったアーキテクチャが実現されている。この技術により、プーリングを用いずに大域的な情報を取得でき、複雑な構造を持つオブジェクトの認識やセグメンテーションの精度を向上させる効果がある。こうしたアプローチは計算効率の向上にも寄与し、医療画像処理や衛星画像解析など、精密な画像解析が求められる分野での適用が期待されている。

Depthwise Separable Convolution

Depthwise Separable Convolution（DSC）は、伝統的な畳み込み演算を改善した技術であり、その処理を空間方向とチャネル方向に分割することが特徴である。この技術は、畳み込み演算を二つのステップ、すなわちDepthwise ConvolutionとPointwise Convolutionに分けて実行する。Depthwise Convolutionでは、各入力チャネルに単一の畳み込みフィルタを適用し、その後Pointwise Convolutionがこれらの結果の線形組み合わせを作成する。この手法により、従来の畳み込みよりも計算量とモデルのパラメータ数が大幅に削減される。通常の2D畳み込み層では、入力チャネル数、カーネルの空間解像度、出力チャネル数に基づいて多くのパラメータが必要になるが、Depthwise Separable Convolutionを使用することでこれらのパラメータを大幅に減少させることができる。この技術の利点は、特にリソースが限られた環境、例えばモバイルデバイスなどでのディープラーニングアプリケーションにおいて顕著である。計算効率とメモリ使用量の両方を改善することで、優れたパフォーマンスを提供することができる。MobileNetやXceptionなど、一般的なモデルアーキテクチャでもこの技術が採用されており、計算リソースが限られた環境での効率的な動作が可能である。

Dilated Convolution

Dilated Convolution（Atrous Convolutionとも呼ばれる）は、通常の畳み込みのフィルタ要素間に「隙間」を設けることで、画素間隔を拡張して適用する手法である。これにより、追加のパラメータや計算コストを増やすことなく受容野を拡大でき、広範囲の特徴を捉えながらも解像度を低下させずに空間的な情報を保持することが可能になる。プーリング層によるダウンサンプリングを伴わず大域的な情報を取得できるため、特にセマンティックセグメンテーションのようなピクセル単位の予測タスクで有効に機能する。

カーネル

入力画像から特徴を抽出するために使用される小さな行列を指す。このカーネルは、画像の異なる領域に沿ってスライドされ、各位置で画像のピクセル値とカーネルの要素を積和計算することで、特定のパターンを検出する。このようにして、畳み込み層では画像のエッジやテクスチャなどの特徴が強調され、次層に渡される特徴マップが作成される。このカーネルは通常3×3や5×5といった小さなサイズで、画像の一部分に対して畳み込み演算を行うため、画像全体の情報を減らすことなく局所的な特徴を捉える。さらに、カーネルはCNNの学習過程でバックプロパゲーションを通じて最適化され、最も重要な特徴を抽出するように調整される。このカーネルが画像上で移動する「ストライド」の設定によって、抽出される特徴の密度も調整可能となる。また、出力サイズを保つための「パディング」も行われることが多い。

ストライド

フィルタ（カーネル）を入力データ上で移動させる際の間隔を指す。ストライドが1の場合、フィルタは1ピクセルずつ移動し、入力データ全体を詳細にスキャンする。一方、ストライドを2や3など大きく設定すると、フィルタの移動幅が広がり、出力される特徴マップのサイズが小さくなる。これにより、計算量の削減やモデルの軽量化が可能となるが、細部の情報が失われる可能性もあるため、ストライドの設定はモデルの目的や入力データの特性に応じて慎重に選択する必要がある。

畳み込み操作

ディープラーニングにおける畳み込み層（Convolutional Layer）は、主に画像認識などの分野で用いられ、入力データから特徴を抽出する役割を担う。畳み込み操作は、入力データに対してフィルタ（カーネル）を適用し、特徴マップを生成するプロセスである。具体的には、フィルタを入力データ上でスライドさせながら、対応する領域の要素ごとの積和演算を行い、その結果を出力として得る。この操作により、エッジやテクスチャなどの局所的な特徴を効果的に抽出できる。畳み込み操作の際、フィルタのサイズやストライド（フィルタを移動させる間隔）、パディング（入力データの周囲に追加する値）などのハイパーパラメータが結果に影響を与える。適切な設定により、入力データの空間的な構造を保持しつつ、重要な特徴を抽出することが可能となる。また、畳み込み層は全結合層と比較して、パラメータ数を大幅に削減できるため、計算効率が高く、過学習のリスクも低減できる。

畳み込みニューラルネットワーク

畳み込みニューラルネットワーク（Convolutional Neural Network, CNN）は、ディープラーニングにおけるモデルの一種で、主に画像認識や動画解析、音声認識などの分野で高い性能を示している。CNNの基本構造は、畳み込み層、プーリング層、全結合層から成り立っている。畳み込み層は、入力データに対してフィルタ（カーネル）を適用し、特徴マップを生成する役割を持つ。このフィルタは、画像内のエッジやテクスチャなどの局所的な特徴を抽出するために使用される。フィルタの重みは学習過程で最適化され、データの特徴を効果的に捉えるようになる。プーリング層は、畳み込み層で得られた特徴マップの空間サイズを縮小し、計算量の削減や過学習の抑制に寄与する。一般的な手法として、最大値プーリング（Max Pooling）や平均値プーリング（Average Pooling）が用いられる。これにより、モデルは位置の変化に対して頑健性を持つようになる。全結合層は、プーリング層で得られた特徴を用いて、最終的な分類や回帰を行う部分である。この層では、従来のニューラルネットワークと同様に、全てのニューロンが前の層の全てのニューロンと接続されている。CNNの特徴として、重みの共有と局所受容野の概念が挙げられる。重みの共有により、モデルのパラメータ数が削減され、学習効率が向上する。また、局所受容野は、各ニューロンが入力データの一部領域にのみ反応することを意味し、画像の局所的な特徴を効果的に捉えることが可能となる。CNNは、1980年代に提案されたネオコグニトロンにその起源を持ち、1990年代にはLeNetが手書き数字認識で成功を収めた。その後、2012年のAlexNetの登場により、深層学習の分野で大きな注目を集め、現在では多くの応用分野で活用されている。

特徴マップ

入力データに対してフィルタ（カーネル）を適用し、抽出された特徴を表現する出力データのことを指す。畳み込み層では、フィルタを用いて画像データから様々な特徴を際立たせる処理を行い、これにより得られるのが特徴マップである。特徴マップは、入力画像に対してフィルタを適用し、エッジやテクスチャなどの局所的な特徴を抽出する役割を持つ。これにより、モデルは画像の高次元な特徴を学習し、分類や認識といったタスクに活用することが可能となる。また、畳み込み層の役割を一言で表すと「データの特徴を際立たせる層」であり、フィルタを用いて画像データから様々な特徴を際立たせる処理を行っている。

パディング

入力データの周囲に特定の値を追加する手法を指す。通常、畳み込み演算を行うと、出力のサイズは入力よりも小さくなる。これは、フィルタが入力データをスライドしながら適用される際、端の部分で計算できる領域が減少するためである。このままでは、層を重ねるごとに出力サイズがどんどん縮小し、最終的には有用な特徴を抽出できなくなる可能性がある。そこで、パディングを用いて入力データの周囲にピクセルを追加し、出力サイズの縮小を防ぐ。特に、ゼロパディングと呼ばれる手法では、入力データの周囲を0の値で埋めることで、出力サイズを入力と同じに保つことができる。これにより、畳み込み層を重ねても出力サイズを維持し、深いネットワークの構築が可能となる。

フィルタ

入力データから特徴を抽出するための重要な要素である。フィルタは、画像認識などの分野で特定のパターンやエッジ、テクスチャなどを検出する役割を果たす。具体的には、フィルタは小さな行列（カーネルとも呼ばれる）として定義され、入力画像に対して畳み込み演算を行うことで、特徴マップを生成する。この畳み込み演算により、入力画像の局所的な特徴が強調され、次の層での処理が効率的になる。フィルタのサイズや数は、ネットワークの設計者が設定し、学習プロセスを通じて最適な値に調整される。また、フィルタは学習データに基づいて自動的に更新され、特定のタスクに適した特徴を抽出できるようになる。