「予測モデルを作りながら、効いている変数の絞り込みまで終わっている」——それがラッソ回帰の魅力です。L1正則化を回帰に応用したこの手法を、マンハッタン距離という幾何学的なイメージとともに解説します。
📖 ひと言でいうと
ラッソ回帰（LASSO）とは、線形回帰にL1正則化（回帰係数の絶対値の和へのペナルティ）を組み込んだ回帰手法です。学習の過程で一部の回帰係数がちょうど0になるため、予測モデルの構築と特徴選択（重要な変数の絞り込み）を同時に実現できます。
例えるなら、たくさんの調味料を試しながらレシピを作る料理人が、「使う調味料には量に応じた課金がある」ルールの下で味を決めるようなものです。ほとんど味に影響しない調味料は「入れない（=係数0）」と判断され、最終レシピは少数の本当に効く材料だけで構成されます。厳密には、この「入れない」判断を自動で下せることがラッソ回帰の最大の特長で、リッジ回帰との決定的な違いです。
🖼 1枚でわかるラッソ回帰
📘 公式テキストの説明
マンハッタン距離を用いたL1正則化を特徴とする手法で、一部のパラメータの値を0にすることで特徴選択が可能となる。マンハッタン距離とは、座標空間内での2点間の距離を、各座標軸に沿って直線的に移動する経路の合計距離として表し、L1正則化項における回帰係数の絶対値の和に相当。L1正則化は、モデルの過学習を防ぐ手法で、回帰係数の絶対値の和に比例するペナルティ項の最小化を目指すもの。この正則化により、一部の回帰係数が0となることがあり、これが特徴選択を実現する。特徴選択は、データ内の重要な特徴を抽出し、無関係な特徴やノイズを取り除くことでモデルの予測性能を向上させる効果がある。
キーワードの連鎖は「マンハッタン距離=絶対値の和→L1正則化→係数が0になる→特徴選択」です。試験ではこの連鎖のどこかを空欄にして問う形が典型なので、一続きのストーリーとして覚えましょう。
🔍 しっかり理解する
マンハッタン距離とは何か
マンハッタン距離は、碁盤の目のような街(ニューヨークのマンハッタンが名前の由来とされます)で目的地まで歩くときの距離です。ビルを斜めに突っ切れないので、東西方向の移動量と南北方向の移動量を足し合わせた合計が距離になります。座標でいえば「各軸に沿った移動量の絶対値の和」です。
回帰係数を座標とみなすと、係数の絶対値の和はまさに「原点からのマンハッタン距離」になります。ラッソ回帰はこの距離が小さいモデル、つまり原点(全係数0)からあまり離れないモデルを好むようにペナルティをかけているのです。ちなみに、対になるリッジ回帰は直線距離(ユークリッド距離)を使います。この距離の測り方の違いが、係数が0になるか否かという性質の違いを生みます。
使い方の流れ
ラッソ回帰は「変数が多すぎて、どれが効くのかわからない」回帰の場面で真価を発揮します。
ペナルティの強さを決める正則化係数を大きくするほど淘汰は厳しくなり、残る変数は少なくなります。予測精度と変数の数のバランスを、検証データを見ながら調整するのが実務の進め方です。
なぜ特徴選択がうれしいのか
特徴選択には、無関係な変数やノイズを取り除いて予測性能を高める効果に加えて、実務上の大きな利点があります。残った変数が少なければ、モデルの式を人間が読んで「何が結果を左右しているのか」を説明できます。また、予測の運用時に集めるべきデータ項目が減るため、システムもシンプルになります。「精度のための道具」であると同時に「理解と運用のための道具」でもあるのです。
💡 具体例で考える
医療分野の研究を考えましょう。患者の血液検査値・生活習慣・遺伝子情報など数千項目から、ある疾患の発症リスクを予測したいとします。通常の線形回帰では変数が多すぎて過学習が避けられず、係数の解釈も不可能です。ラッソ回帰を使うと、数千項目のうち係数が非ゼロで残るのは数十項目程度に絞られ、「この検査値とこの習慣がリスクに効く」という研究上の仮説まで得られます。予測と知識発見が同時に進む好例です。
マーケティングでも同様で、広告の出稿チャネルが数百ある中で売上への寄与を推定する際、ラッソ回帰なら「実質的に効いているチャネル」だけが残るため、予算配分の意思決定に直結する結果が得られます。
⚠️ よくある誤解・紛らわしい用語
- リッジ回帰との違い — ラッソ回帰はL1正則化(マンハッタン距離)で一部の係数をちょうど0にし、特徴選択ができます。リッジ回帰はL2正則化(ユークリッド距離)で係数を全体的に小さくしますが0にはしません。「L1⇄ラッソ、L2⇄リッジ」の対応を入れ替えた選択肢が誤答の定番です
- L1正則化との関係 — L1正則化はペナルティの仕組みの一般名で、ラッソ回帰はそれを線形回帰に適用した手法名です。「ラッソ回帰はL1正則化を特徴とする」という向きで覚えましょう
- 「特徴選択を別途行う必要がある」は誤り — ラッソ回帰は学習の結果として自動的に係数が0になるため、特徴選択が学習と同時に行われます
- 「係数が0に近づくだけ」はリッジ側の説明 — ラッソでは係数が「ちょうど0」になります。「近づくが0にならない」のはリッジ回帰の性質です
📝 試験でのポイント
- 「マンハッタン距離を用いたL1正則化を特徴とする回帰手法はどれか」という定義問題が基本形です。「マンハッタン距離」という単語はラッソ回帰を指す強いヒントになります
- 「一部のパラメータを0にすることで特徴選択が可能」という記述とラッソ回帰の結びつきは最頻出ポイントです
- リッジ回帰との対比問題では、距離(マンハッタン/ユークリッド)、正則化(L1/L2)、係数(0になる/0に近づく)の3点セットで判別しましょう
- LASSOという英名表記(Least Absolute Shrinkage and Selection Operator)で出題される可能性もあります
📚 まとめ
ラッソ回帰は、回帰係数の絶対値の和(マンハッタン距離)にペナルティをかけるL1正則化を特徴とする回帰手法です。過学習を防ぎつつ、一部の係数がちょうど0になることで特徴選択が自動的に行われ、簡潔で解釈しやすいモデルが得られます。ユークリッド距離ベースのL2正則化で係数を0にしないリッジ回帰とは対をなす存在です。「マンハッタン・L1・係数ゼロ・特徴選択」の4語をひとかたまりで覚えておきましょう。
