「もし年収が400万円以上なら右へ、未満なら左へ」——そんなYes/Noの質問を繰り返して答えにたどり着くのが決定木です。仕組みが目で見てわかる、機械学習の中でもっとも直感的な手法のひとつです。G検定では剪定や情報利得といった独特の用語とセットで問われます。
📖 ひと言でいうと
決定木は、データに対して「この条件を満たすか？」という条件分岐を木の枝のように繰り返し、最終的な予測(分類や数値)にたどり着く手法です。分類問題に使うものを分類木、数値予測に使うものを回帰木と呼びます。
身近な例でいえば「フローチャート式の診断チャート」です。雑誌の心理テストで「朝型ですか？→Yesなら質問2へ、Noなら質問3へ」とたどっていくと最後にタイプ判定が出ますが、決定木はこのチャートの質問と分岐を、人間が作るのではなくデータから自動で学習します。
🖼 1枚でわかる決定木
📘 公式テキストの説明
分類木と回帰木を組み合わせたものでツリー（樹形図）によって条件分岐を繰り返すことで境界線を形成してデータを分析する手法。決定木は一般に仕組みがわかりやすいだけでなく、データのスケールを事前に揃えておく必要がなく、分析結果の説明が容易である特徴がある。訓練データを用いて決定木を過学習させたあと、検証データを用いて性能低下に寄与している分岐を切り取ることを剪定という。これにより過学習を抑制できる。条件分岐を繰り返す際に条件分岐の良さを判断するための基準をあらかじめ定めておく。分類問題においては情報利得の最大化を判断基準とする。
短い文章に決定木の要点が凝縮されています。ポイントは3つです。第一に、決定木は「境界線を形成する」手法だという点です。条件分岐を1回行うたびに、データ空間が「条件を満たす側/満たさない側」に区切られていきます。第二に、長所として「わかりやすさ・スケール調整不要・説明の容易さ」が挙げられている点。第三に、弱点である過学習への対策が「剪定」であり、分岐の良し悪しは分類問題では「情報利得」で測る、という点です。この3点がそのまま試験の出題ポイントになります。
🔍 しっかり理解する
ツリー構造：根から葉へたどって予測する
決定木は、最初の質問にあたる「根ノード」から始まり、途中の分岐(内部ノード)を経て、末端の「葉ノード」で予測結果を出力します。データ1件の予測は、条件に従って根から葉まで枝をたどるだけです。
(例: 年収400万以上?)
(例: 勤続3年以上?)
(例: 審査通過/否決)
「良い質問」を選ぶ基準が情報利得
決定木の学習とは、各分岐でどの特徴量をどの値で区切るかを決めていく作業です。その良し悪しをあらかじめ定めた基準で評価します。分類問題で使われる基準が情報利得の最大化です。
情報利得とは、直感的には「その質問をしたことで、データの混ざり具合(不純度)がどれだけ減ったか」です。たとえば「審査通過と否決が半々」のグループを、ある質問で「ほぼ通過だけのグループ」と「ほぼ否決だけのグループ」に分けられたら、その質問は情報利得が大きい良い質問です。逆に、分けても半々のままなら情報利得はほぼゼロです。決定木は各ノードで情報利得が最大になる質問を貪欲に選んでいきます。
過学習と剪定(せんてい)
分岐を細かく増やせば、訓練データは完璧に分類できます。しかしそれは「訓練データの暗記」であり、新しいデータには当てはまらない過学習の状態です。
対策が剪定です。公式テキストの手順どおり、まず訓練データで木を深く成長させ(あえて過学習させ)、そのあと検証データで性能を確かめながら、性能低下に寄与している分岐を切り取ります。庭木の余分な枝を切るイメージそのままで、木を浅くシンプルに保つことで汎化性能を回復させます。「訓練データで剪定する」のではなく「検証データを使って剪定する」点が試験で狙われます。
なぜ実務で好まれるのか
決定木の最大の魅力は説明可能性です。「なぜこの顧客を否決と予測したのか」に対して「年収が条件Aを下回り、勤続年数が条件Bを下回ったから」とルールの形で答えられます。また、分岐は値の大小比較なので、特徴量のスケール(単位や桁)を事前に揃える正規化・標準化が不要です。この2つの長所は、SVMやニューラルネットワークとの対比でよく出題されます。
💡 具体例で考える
携帯電話会社の解約(チャーン)予測を決定木で作るとします。学習の結果、「契約期間が12か月未満か？→Yesなら、月額料金が8,000円以上か？→Yesなら解約リスク高」という木が得られたとしましょう。この木は予測に使えるだけでなく、「契約1年未満で高額プランの顧客が危ない」という営業施策に直結する知見として読めます。精度だけならより複雑なモデルが勝つ場面でも、施策説明が必要な業務で決定木が選ばれるのはこのためです。
もうひとつ重要なのは「部品としての決定木」です。決定木を何百本も束ねるランダムフォレスト(バギング系)や勾配ブースティング(XGBoostなど)は、表形式データの予測で現在も第一線の手法です。単体では過学習しやすい決定木が、集団になると強力になるという流れは、アンサンブル学習の話題の起点になります。
⚠️ よくある誤解・紛らわしい用語
- 「決定木は分類専用」は誤り — 分類木と回帰木の総称であり、数値を予測する回帰問題にも使えます。
- 「決定木も正規化が必要」は誤り — 分岐は大小比較なので、データのスケールを事前に揃える必要がありません。前処理が必須なSVMや距離ベース手法との対比で問われます。
- 剪定のタイミング — 「過学習を防ぐために最初から木を浅く作る」ことも実務ではありますが、公式テキストの剪定は「過学習させたあとに検証データで分岐を切り取る」手順です。順序を入れ替えた選択肢に注意してください。
- ランダムフォレストとの混同 — 決定木は1本の木、ランダムフォレストは多数の決定木を束ねたアンサンブル手法です。「決定木の説明として『多数決で予測する』」とあれば誤りです。
📝 試験でのポイント
- 定義問題では「ツリー(樹形図)」「条件分岐」「境界線を形成」がキーフレーズです。
- 長所を選ばせる問題では「説明が容易」「スケールを揃える必要がない」の2点を確実に。
- 「剪定」の目的(過学習の抑制)と手順(過学習後に検証データで分岐を切る)は穴埋め・正誤の頻出ポイントです。
- 分岐基準について「分類問題では情報利得の最大化」という対応関係を押さえておきましょう。
📚 まとめ
決定木は、条件分岐をツリー状に繰り返して境界線を作り、分類(分類木)にも回帰(回帰木)にも使える手法です。仕組みが目で見てわかり、結果の説明が容易で、スケール調整も不要という実務的な長所を持ちます。一方で過学習しやすく、その対策が検証データを使った剪定です。分岐の良さは分類問題では情報利得で測ります。ランダムフォレストや勾配ブースティングの「部品」でもあるため、アンサンブル学習とつなげて理解しておきましょう。
