【E資格】ロジスティック回帰を徹底解説｜シグモイド関数・ロジット・オッズ比の関係

ロジスティック回帰は、線形モデルの出力をシグモイド関数で0〜1の確率に変換して分類を行う教師あり学習の手法です。名前に「回帰」とありますが分類のためのモデルであり、ニューラルネットワークの出力層の設計に直結する重要な基礎です。

※この項目はシラバス2026では出題対象外(オプション)ですが、前提知識として重要なため解説します。

📖 概要

2値分類では「入力 x がクラス1に属する確率」を予測したいのですが、線形モデル z = w^T x + b の出力はマイナス無限大からプラス無限大までの実数で、そのままでは確率として解釈できません。そこで z をシグモイド関数(ロジスティック関数)に通して0〜1の範囲に押し込め、確率 p = σ(z) として扱うのがロジスティック回帰です。

このとき線形モデルの出力 z は、確率 p の「ロジット」(対数オッズ)に対応します。つまりロジスティック回帰は「対数オッズが入力の線形結合で表される」と仮定するモデルだと解釈できます。学習は最尤推定に基づき、クロスエントロピー(負の対数尤度)を最小化する形で行われます。

2値分類のシグモイド関数を多クラス分類に一般化したものがソフトマックス関数です。この対応関係は、深層学習の出力層(2値分類=シグモイド+バイナリクロスエントロピー、多クラス分類=ソフトマックス+クロスエントロピー)にそのまま引き継がれています。

🔍 キーワード解説

シグモイド関数・ロジスティック関数

シグモイド関数は σ(z) = 1 / (1 + exp(-z)) で定義される関数で、任意の実数を0から1の範囲に単調に写します。ロジスティック関数とも呼ばれ、ロジスティック回帰の名前の由来になっています。z = 0 のとき出力は0.5で、zが大きいほど1に、小さいほど0に近づくS字型の曲線を描きます。微分が σ'(z) = σ(z)(1 - σ(z)) と自身の出力だけで書ける性質は、勾配計算の観点で重要です。また、確率0.5を境にクラスを判定する場合、境界は w^T x + b = 0 となるため、ロジスティック回帰の決定境界は入力空間で線形(超平面)になります。なお線形回帰の最小二乗法と異なり、ロジスティック回帰の最尤推定には一般に解析解がないため、勾配降下法などの反復的な最適化でパラメータを求めます。

オッズ/オッズ比

オッズ/オッズ比は、確率を「起こりやすさの比」として表現し直すための概念です。オッズは、ある事象が起こる確率 p と起こらない確率 1 - p の比 p / (1 - p) です。例えば p = 0.8 ならオッズは 4 で、「起こる確率が起こらない確率の4倍」を意味します。オッズ比は2つの条件(例: 施策あり/なし)それぞれのオッズの比で、条件の違いが事象の起こりやすさに与える影響を表す指標です。ロジスティック回帰では、ある特徴量が1単位増えたときオッズが exp(重み) 倍になるため、重みの解釈にオッズ比が使われます。

ロジット

ロジットは確率 p に対する対数オッズ logit(p) = log(p / (1 - p)) のことです。ロジットはシグモイド関数の逆関数になっており、0〜1の確率をマイナス無限大からプラス無限大の実数に引き戻します。ロジスティック回帰は「ロジットが線形モデルで表せる」log(p / (1 - p)) = w^T x + b という仮定のモデルです。深層学習の文脈では、ソフトマックスやシグモイドに入力する直前の生のスコアを慣用的に「ロジット」と呼ぶことも多いです。

ソフトマックス関数

ソフトマックス関数は、K個の実数スコア z_1, ..., z_K を softmax(z_i) = exp(z_i) / Σ_j exp(z_j) により、合計が1になる確率分布に変換する関数です。多クラス分類でクラスごとの確率を出力するために用いられ、ロジスティック回帰を多クラスに拡張した多クラスロジスティック回帰(ソフトマックス回帰)の中核です。K = 2 の場合はシグモイド関数を使った2値分類と等価になります。実装上は、指数関数のオーバーフローを避けるため入力の最大値を引いてから計算する工夫が使われることが多いです。

📝 試験でのポイント

📚 まとめ

ロジスティック回帰は、線形モデルの出力(ロジット=対数オッズ)をシグモイド関数で確率に変換して分類するモデルです。オッズとロジットの関係、シグモイドとソフトマックスの対応(2値と多クラス)は、深層学習の出力層と損失関数の設計にそのままつながります。式の変換関係を自分で導けるようにしておくことが得点の鍵です。