交差検証（cross-validation)
交差検証（cross-validation）は、G検定の試験対策において重要な概念の一つです。統計学において、交差検証はデータを分割し、その一部を解析に使い、残りで解析のテストを行い、解析の妥当性を検証する手法を指します。交差検証の目的は、データ解析や推定がどれだけ実際の母集団に適用可能かを評価することです。
具体的には、データセットを訓練データ（学習用データ）とテストデータ（評価用データ）に分割し、モデルの性能評価を行います。このプロセスは、特に機械学習のモデルの評価において不可欠であり、過学習を防ぐためにも使用されます。
交差検証にはいくつかの異なる方法がありますが、最も一般的なのはk-分割交差検証です。この方法では、データをk個のブロックに分割し、それぞれのブロックを1回ずつテストデータとして使用し、残りを訓練データとして使用します。各ブロックで得られた評価結果の平均をとることで、モデルの性能を評価します。これにより、計算量は増加しますが、より信頼性の高い精度評価が可能になります。
また、leave-one-out交差検証（LOOCV）という方法もあり、これは標本群から1つの事例だけを抜き出してテスト事例とし、残りを訓練事例とする方法です。これは、k-分割交差検証のkを標本サイズにした場合に相当します。
交差検証は、モデルの選択やハイパーパラメータの調整にも役立ちますが、過剰適合のリスクも伴います。そのため、交差検証の結果は慎重に扱う必要があります。
他の手法との比較
- ホールドアウト検証（Hold-out Validation）
特徴: データセットを訓練データとテストデータに一度だけ分割します。
利点: 計算コストが低く、実装が簡単です。
欠点: データの分割方法によっては、モデルの性能評価が偏る可能性があります。
交差検証との比較: 交差検証は、データセットを複数の異なるサブセットに分割し、より汎用的な評価を提供します。 - k-分割交差検証（k-Fold Cross-Validation）
特徴: データセットをk個のサブセットに分割し、それぞれのサブセットでモデルを評価します。
利点: 全てのデータを訓練にもテストにも使用するため、データの利用効率が高いです。
欠点: 計算コストが高く、データが多い場合には時間がかかることがあります。 - Leave-One-Out Cross-Validation (LOOCV)
特徴: k-分割交差検証の特別なケースで、各サブセットが1つのデータ点のみを含むように分割します。
利点: データの利用効率が非常に高く、小規模なデータセットに適しています。
欠点: データ量が多い場合、非常に時間がかかり、計算コストが高くなります。 - ブートストラップ（Bootstrap）
特徴: データセットからランダムにサンプリング（置き換えあり）して、複数のサブセットを作成します。
利点: 小規模なデータセットに対しても効果的で、統計的な推定値が得られます。
欠点: 置き換えによるサンプリングのため、一部のデータが多重に選ばれる可能性があります。
