音声波形そのものを1サンプルずつ生成する自己回帰型の深層生成モデル、WaveNetを学ぶ項目です。因果的な畳み込みを膨張(dilation)させて長い文脈を捉える設計と、ゲート付き活性化・残差構造の組み合わせが理解の中心です。
※この項目はシラバス2026では出題対象外(オプション)ですが、前提知識として重要なため解説します。
📖 概要
WaveNetは、DeepMindが提案した音声波形の生成モデルで、音声合成（Text-to-Speech）の品質を大きく前進させたことで知られています。従来の音声合成では、録音した音声素片をつなぎ合わせる方式や、ボコーダを介したパラメトリック方式が主流でしたが、WaveNetは音声波形のサンプル値そのものを、過去のサンプル列を条件とした確率分布から1つずつ生成する自己回帰モデルとして波形を直接モデル化します。テキストから求めた言語特徴量などを条件として与えることで、自然性の高い読み上げ音声を生成できます。
音声波形は1秒あたり数千〜数万サンプルという非常に長い系列であるため、RNNで逐次処理するのではなく、並列学習が可能な畳み込みで系列を扱うのがWaveNetの特徴です。その中核が、未来の情報を参照しない因果的な畳み込みを、層が深くなるほど間隔を広げながら適用するDilated Causal Convolutionで、少ない層数で非常に広い受容野を確保します。
さらに各層には、tanhとシグモイドを組み合わせたゲート付き活性化GTU（Gated tanh unit）を用い、Residual Blockとして積み重ね、各ブロックからのSkip Connectionを集約して出力を作ります。これらは深いネットワークを安定して学習させるための設計であり、画像分野のResNetと共通する考え方です。
🔍 キーワード解説
音声合成（Text-to-Speech）
音声合成（Text-to-Speech）は、テキストを入力として人間の発話のような音声を出力するタスクです。WaveNetは、言語特徴量や基本周波数などの条件情報をネットワークに与える条件付き生成によってTTSを実現し、従来方式より自然な音声品質を達成したと報告されています。なお、WaveNet自体は汎用の波形生成モデルであり、条件の与え方によって話者の切り替えや音楽の生成などにも応用できます。
Dilated Causal Convolution
Dilated Causal Convolution(膨張因果畳み込み)は、WaveNetの中核となる畳み込みです。まずCausal(因果的)とは、時刻tの出力の計算に時刻t以前の入力しか使わないという制約で、自己回帰モデルとして「過去から未来を予測する」構造を守るために必須です。次にDilated(膨張)とは、畳み込みで参照する入力を1つおき、3つおきというように間隔(dilation)を空けて取ることです。WaveNetでは層を重ねるごとにdilationを1, 2, 4, 8, …と倍々に増やし、これにより層数に対して指数的に受容野が広がります。長い音声波形の文脈を、プーリングで解像度を落とすことなく効率的に取り込める点が利点です。
GTU（Gated tanh unit）
GTU（Gated tanh unit）は、WaveNetの各層で使われるゲート付きの活性化機構です。畳み込みの出力を2系統に分け、一方にtanh、もう一方にシグモイド関数を適用して、両者の要素ごとの積を取ります。式で書くと z = tanh(Wf * x) ⊙ σ(Wg * x) の形です(⊙は要素積、*は畳み込み)。tanh側が候補となる情報を作り、シグモイド側が0〜1のゲートとして情報の通過量を制御する、LSTMのゲート機構に似た働きをします。単純なReLUなどよりも音声のモデル化に有効であったと報告されています。
Residual BlockとSkip Connection
WaveNetは、Dilated Causal ConvolutionとGTUからなる層をResidual Blockとして構成します。ブロックの入力を出力に加算する残差接続によって、勾配が深い層まで伝わりやすくなり、多層のネットワークでも安定した学習が可能になります。さらに各ブロックの中間出力はSkip Connectionによってネットワークの最終段に直接集められ、全ブロック分を足し合わせたものから最終的な出力分布(次のサンプル値の確率分布)が計算されます。残差接続が「深さ方向の学習の安定化」、スキップ接続が「各深さの特徴を出力へ直接届ける」役割と整理できます。
📝 試験でのポイント
- Causal Convolutionの意味(未来の入力を参照しない)と、その理由(自己回帰生成の整合性)を押さえましょう
- Dilated Convolutionの効果は「層数に対して受容野が指数的に拡大する」ことです。dilationを倍々にする構成が典型例として問われます
- GTUの式の形(tanhとシグモイドの要素積)と、シグモイド側がゲートの役割を持つ点はLSTMのゲート機構と関連付けて出題されやすいポイントです
- WaveNetが「波形を直接、1サンプルずつ自己回帰で生成する」モデルであることを、スペクトログラム経由の手法と区別して理解しましょう
- Residual Block(加算による勾配伝播の改善)とSkip Connection(各層の出力を最終段へ集約)の役割の違いを整理しておきましょう
📚 まとめ
WaveNetは、音声波形を1サンプルずつ自己回帰的に生成する深層生成モデルで、音声合成の品質を大きく高めました。Dilated Causal Convolutionにより因果性を保ったまま受容野を指数的に拡大し、GTUによるゲート付き活性化、Residual BlockとSkip Connectionによる深いネットワークの安定学習を組み合わせています。各構成要素の役割を対応付けて覚えることが重要です。
