「不要な特徴量の重みをきっぱりゼロにする」——L1正則化は、過学習を防ぎながらモデルのスリム化まで同時にやってのける手法です。L2正則化との違いが試験の頻出ポイントなので、ペナルティの仕組みから丁寧に解説します。
📖 ひと言でいうと
L1正則化とは、損失関数に「パラメータの絶対値の合計」をペナルティとして加える正則化手法です。過学習を防ぐと同時に、重要でないパラメータをちょうど0にする性質があり、スパース（疎）なモデルと自動的な特徴選択を実現します。
例えるなら、持ち物1つひとつに「重さに比例した持ち込み料」がかかる旅行のようなものです。少しでも荷物を持てば必ず料金がかかるので、「あまり役に立たない物はゼロにする（置いていく）」という判断が自然に生まれます。厳密には、絶対値関数の形状（原点で尖っている）が、重みをぴったり0に押し込む数学的な理由です。
🖼 1枚でわかるL1正則化
📘 公式テキストの説明
L1正則化は、機械学習モデルにおいて過学習を防ぐための手法の一つで、特に回帰モデルやニューラルネットワークなどに応用される。L1正則化では、損失関数に加えてパラメータの絶対値の合計をペナルティとして追加することで、不要なパラメータを削減し、スパースなモデルを実現する。これにより、重要でない特徴量の重みがゼロに近づき、特徴選択も同時に行われる。この手法はLASSO（Least Absolute Shrinkage and Selection Operator）とも呼ばれ、複雑なモデルから必要な特徴だけを抽出するのに役立つ。例えば、膨大なデータの中で関連性の高い変数のみを残し、モデルの簡潔さと解釈性を高める効果がある。特にL2正則化と異なり、L1正則化は明確に不要な重みをゼロにするため、次元圧縮にも適していると言える。
覚えるべき流れは「絶対値の合計をペナルティに→不要な重みが0に→スパースなモデル→特徴選択も同時に実現」という一本道です。最後の一文にある「L2正則化と異なり、明確に不要な重みをゼロにする」が、試験で最も問われる対比ポイントです。
🔍 しっかり理解する
ペナルティ付き学習の流れ
L1正則化を使った学習では、モデルは「予測を正確にしたい」と「重みの絶対値の合計を小さくしたい」という2つの要求のバランスを取りながらパラメータを決めていきます。
ペナルティの強さは正則化係数（ハイパーパラメータ）で調整します。係数を大きくするほど0になる重みが増えてモデルは単純になり、小さくするほど通常の学習に近づきます。
なぜL1だと重みが「ちょうど0」になるのか
L2正則化（二乗の合計）では、重みが0に近づくほどペナルティの減り方が緩やかになるため、重みは0に近づいても最後のひと押しが働かず、小さな値のまま残ります。一方L1の絶対値関数は原点で尖った形をしており、重みが0の近くにあっても一定の力で0方向へ押し続けます。この「押しの強さが衰えない」性質が、重みをぴったり0に落とす理由です。
図形的には、L1のペナルティが許す領域はひし形（頂点が座標軸上にある）で、損失関数の等高線がこのひし形の「角」で接しやすいため、一部の重みが0になる解が選ばれやすい、という説明がよく使われます。
スパース化がもたらす実務的な価値
重みが0になった特徴量は、予測にまったく使われません。つまりL1正則化は学習の副産物として「どの特徴量が重要か」の選別（特徴選択）を済ませてくれます。これには次の利点があります。
- 解釈性の向上: 残った少数の特徴量を見れば「モデルが何を根拠に予測しているか」を説明しやすい
- 次元圧縮: 特徴量の保存・計算コストが減り、モデルが軽くなる
- 過学習の抑制: ノイズにすぎない特徴量への依存を断ち切れる
なお、L1正則化を線形回帰に適用した手法がLASSO（ラッソ回帰）です。「L1正則化=ペナルティの仕組みの名前」「ラッソ回帰=それを回帰に使った手法の名前」という関係で覚えると混乱しません。
💡 具体例で考える
顧客の解約予測モデルを作る場面を考えます。年齢・契約期間・利用頻度・問い合わせ回数など500個の特徴量を用意したものの、本当に解約に効くのは一部だけだとします。L1正則化付きで学習すると、たとえば470個の特徴量の重みが0になり、「契約期間」「直近の問い合わせ回数」など30個だけが残る、といった結果が得られます。営業部門に「この30項目を見れば解約リスクがわかる」と説明できる、解釈しやすいモデルになるわけです。
同じデータをL2正則化で学習すると、500個すべての重みが小さな非ゼロ値で残り、「どれが重要か」の切り分けは別途必要になります。この対比が、L1を選ぶ動機を端的に示しています。
⚠️ よくある誤解・紛らわしい用語
- L2正則化との違い — L1は「絶対値の合計」で不要な重みをちょうど0にし、特徴選択・次元圧縮に向きます。L2は「二乗の合計」で重みを全体的に小さくしますが0にはしません。「重みが0になるのはどちらか」は最頻出の対比です
- L1正則化とラッソ回帰の関係 — 同じL1ペナルティの話ですが、L1正則化は手法の一般名、LASSO（ラッソ回帰）はそれを回帰モデルに適用した手法の名前です
- L0正則化との違い — L0は非ゼロパラメータの「個数」にペナルティをかける理想形ですが計算困難で、微分可能なL1がその実用的な代替となっています
- 「正則化すれば必ず精度が上がる」は誤り — 正則化係数が強すぎると、必要な特徴量まで削られて学習不足（アンダーフィッティング）に陥ります。あくまで過学習とのバランス調整です
📝 試験でのポイント
- 「パラメータの絶対値の合計をペナルティとして加える正則化はどれか」という定義問題が基本形です
- 「一部の重みがちょうど0になる」「スパースなモデル」「特徴選択が同時に行われる」というキーワードからL1を選ばせる問題が想定されます
- L1=LASSO、L2=リッジ回帰という別名の対応は、入れ替えた誤答選択肢が作られやすい要注意ポイントです
- 「L2と異なり明確に重みをゼロにする」という対比表現の正誤判定に備えましょう
📚 まとめ
L1正則化は、損失関数にパラメータの絶対値の合計をペナルティとして加える正則化手法です。過学習を防ぐと同時に、重要でない重みをちょうど0にしてスパースなモデルを作り、特徴選択と次元圧縮まで同時に実現します。回帰に適用した手法はLASSO（ラッソ回帰）と呼ばれます。「絶対値→0になる→特徴選択」のL1と、「二乗→小さくなるが0にならない」のL2という対比を軸に整理しておきましょう。
