性別や人種の列をデータから消したのに、AIの判断は相変わらず偏っている——。その犯人が「代理変数」です。郵便番号や職業のような一見中立な変数が、センシティブ属性の身代わりとして働いてしまう。AIの公平性を考えるうえで避けて通れない仕組みを解説します。
📖 ひと言でいうと
代理変数(proxy variable)とは、直接測定や収集が難しい属性(人種・性別・年齢などのセンシティブな属性)を、他の観測可能な変数で間接的に表現するものです。
例えるなら「足跡から動物を当てる」ようなものです。動物そのもの(センシティブ属性)が見えなくても、足跡(郵便番号・職業・購買履歴など)から正体をかなり推測できてしまいます。この性質は、公平性の検証に役立つ一方で、意図しない差別の抜け道にもなるという二面性を持っています。
🖼 1枚でわかる代理変数
📘 公式テキストの説明
直接的に測定や収集が難しいセンシティブな属性（例：人種、性別、年齢など）を、他の観測可能な変数で間接的に表現する手法を指す。これにより、センシティブな情報を直接使用せずに、モデルの公平性を評価・改善することが可能となる。例えば、ある地域の郵便番号や職業情報は、個人の社会経済的地位や教育水準と高い相関を持つことが多い。これらの変数を代理変数として活用することで、直接的なセンシティブ情報を使用せずに、モデルが特定の集団に対して偏りを持っていないかを検証できる。しかし、代理変数の選択には注意が必要であり、不適切な代理変数の使用は、逆に新たなバイアスを導入するリスクがある。そのため、代理変数の選定や使用に際しては、データの相関関係や因果関係を十分に理解し、慎重に検討することが求められる。
公式テキストは代理変数を「活用する手法」の面から説明しています。センシティブ属性を直接集められない場面でも、相関する変数を手がかりにすれば公平性の検証ができる、という使い方です。同時に「不適切な使用は新たなバイアスを導入する」という警告も明記されています。この「役立つ面」と「危険な面」の両面をセットで覚えることが、このキーワード攻略の鍵です。
🔍 しっかり理解する
代理変数の二面性——道具にも抜け道にもなる
代理変数は、使う目的によって正反対の顔を見せます。
- センシティブ情報を直接収集せずに済む
- 相関する変数からグループ間の偏りを検証
- 公平性の評価・改善に活用できる
- 属性を除外してもモデルが代理変数経由で属性を「復元」
- 一見中立な変数を通じて間接差別が発生
- 不適切な選定は新たなバイアスを導入
🅰の面では、例えばモデルの予測結果を地域(郵便番号)別に集計し、特定の社会経済的グループで承認率が極端に低くないかを確認する、といった監査的な使い方ができます。🅱の面では、ローン審査AIに人種の情報を与えていなくても、居住地域という変数が歴史的な住み分けの影響で人種と強く相関していれば、モデルは事実上「人種で判断する」のと近い挙動をしてしまいます。
なぜ相関が生まれるのか——相関と因果の理解が必須
郵便番号そのものに人を差別する力はありません。問題は、社会の構造(所得格差、歴史的な居住地の偏りなど)によって、中立に見える変数とセンシティブ属性の間に強い相関ができあがっていることです。
公式テキストが「データの相関関係や因果関係を十分に理解し、慎重に検討することが求められる」と締めくくっているのはこのためです。ある変数が結果を予測できる(相関がある)ことと、その変数を判断に使ってよいことは別問題です。相関の背後にセンシティブ属性が隠れていないかを吟味しなければ、「属性は使っていないから公平です」という主張は簡単に崩れます。
センシティブ属性の記事とのつながり
センシティブ属性の解説では「属性を除外するだけでは、他の関連情報から間接的に推測されるリスクがある」と述べられていました。その「他の関連情報」の正体こそが代理変数です。2つのキーワードは、「守るべき属性(センシティブ属性)」と「その属性の情報を運んでしまう変数(代理変数)」という対の関係にあります。
💡 具体例で考える
郵便番号と融資審査——レッドライニングの教訓
米国では歴史的に、特定の地区(多くは黒人住民の多い地区)を線引きして融資を拒む「レッドライニング」と呼ばれる慣行が問題となり、法律で禁止されました。しかし、AIによる与信審査でも、居住地域や郵便番号を判断材料に使えば、人種を直接使わないまま同じ構図が再現されかねません。地理情報が人種の代理変数として機能してしまうためです。「入力に人種はありません」だけでは公平性を主張できない理由を示す典型例です。
再犯予測システムでの間接的な影響
米国の再犯リスク評価システムCOMPASは、入力に人種を含んでいないとされます。それでも2016年のProPublicaの分析では、再犯しなかった人が誤って高リスクと判定される割合が黒人で白人より高いと報告され、大きな論争になりました。逮捕歴・居住環境・雇用状況といった入力項目が、社会構造を通じて人種と相関していれば、人種を入れなくても判定に人種的な偏りが現れ得る——代理変数の問題を象徴する事例として語られています。
⚠️ よくある誤解・紛らわしい用語
- 「センシティブ属性を入力しなければ公平」は誤り — 代理変数がある限り、属性の影響は間接的に判断へ流れ込みます。この誤解の指摘こそが、このキーワードの存在意義です。
- センシティブ属性との違い — センシティブ属性は保護されるべき属性そのもの(人種・性別など)、代理変数はそれと相関して間接的に表現してしまう別の観測可能な変数(郵便番号・職業など)です。
- 代理変数=悪、ではない — 公式テキストの主眼はむしろ「センシティブ情報を直接使わずに公平性を評価・改善する手法」としての活用です。使い方と選定を誤ると新たなバイアスを生む、という条件付きで理解しましょう。
- 相関があれば使ってよい、ではない — 予測に役立つ変数でも、その相関の源がセンシティブ属性なら、使用は間接差別につながり得ます。相関と因果の吟味が必要です。
📝 試験でのポイント
- 定義問題では「直接的に測定や収集が難しいセンシティブな属性」「他の観測可能な変数で間接的に表現」という言い回しが正解の目印です。
- 「郵便番号や職業が社会経済的地位・教育水準と高い相関を持つ」という公式テキストの具体例は、そのまま事例問題の題材になり得ます。
- 「センシティブ属性を除外したのに偏った判断が残った」という事例文から、原因として代理変数を選ばせる形式が想定されます。
- 「不適切な代理変数の使用は新たなバイアスを導入するリスクがある」という注意点の正誤判定にも備えましょう。
📚 まとめ
- 代理変数とは、直接測定が難しいセンシティブ属性を、郵便番号や職業などの観測可能な変数で間接的に表現するものです。
- センシティブ情報を直接使わずにモデルの公平性を評価・改善できるという有用な面があります。
- 一方で、属性を除外してもモデルが代理変数経由で属性を推測し、間接差別が残るという危険な面も持ちます。
- 選定・使用にあたっては、変数間の相関関係・因果関係を十分に理解し、慎重に検討することが求められます。
