人種、性別、年齢、宗教——これらの属性でAIの判断が左右されたら、それは差別の自動化です。公平性の議論で「守るべき対象」を指し示す言葉がセンシティブ属性です。そして「入力から外せば解決」とはいかないところに、このキーワードの本当の論点があります。
📖 ひと言でいうと
センシティブ属性とは、個人の人種・性別・年齢・宗教・国籍・障害の有無など、差別や偏見の原因となり得る情報のことです。
いわば「AIの判断材料にしてはいけない(あるいは慎重に扱うべき)属性のリスト」です。採用や融資の面接で、面接官が応募者の宗教や国籍を理由に評価を変えたら差別になるのと同じように、AIがこれらの属性に基づいて不利な判断を下すことは公平性の重大な侵害とされます。
🖼 1枚でわかるセンシティブ属性
📘 公式テキストの説明
センシティブ属性とは、個人の人種、性別、年齢、宗教、国籍、障害の有無など、差別や偏見の原因となり得る情報を指す。これらの属性がAIモデルの学習や推論に影響を及ぼすと、特定の集団に対する不公平な結果を生む可能性がある。例えば、採用選考において、過去のデータに基づくAIが男性を優先的に選ぶ傾向を示した事例が報告されている。このような問題を避けるため、センシティブ属性を直接使用しない、もしくはその影響を最小限に抑える手法が研究されている。しかし、センシティブ属性を除外するだけでは、他の関連情報から間接的に推測されるリスクも存在するため、慎重な対応が求められる。AIの公平性を高めるためには、データ収集やモデル設計の段階からセンシティブ属性の影響を考慮し、バイアスを排除する取り組みが不可欠である。
この説明は3段構えです。①定義(差別の原因となり得る属性)、②リスク(学習・推論に影響すると不公平が生じる)、③対策とその限界(直接使わない手法があるが、除外だけでは間接的に推測される)。特に③の「除外だけでは不十分」という一文が、次のキーワード「代理変数」への橋渡しになっており、試験でも最も問われやすい急所です。
🔍 しっかり理解する
なぜ「使わない」だけでは足りないのか
直感的には「性別の列をデータから削除すれば、AIは性別で差別できない」と思えます。しかし現実のデータでは、センシティブ属性は他の変数と強く相関しています。出身校・職歴・居住地域・趣味のような一見中立な情報から、性別や人種がかなりの精度で推測できてしまうのです。
このように、センシティブ属性の間接的な影響を運ぶ変数を「代理変数」と呼びます。だからこそ公式テキストは、単なる除外ではなく「データ収集やモデル設計の段階から影響を考慮する」ことを求めているのです。
対策の方向性
センシティブ属性への対応は、大きく2つの方向で研究・実践されています。
- 影響を抑える方向 — 属性を入力に使わない、属性と相関の強い特徴量の扱いを見直す、学習時に公平性の制約を課す、といった方法で不公平な判断を防ぎます。
- あえて測って検証する方向 — 一見逆説的ですが、モデルの判断がグループ間で偏っていないかを検証するには、センシティブ属性の情報が必要です。属性を「判断には使わないが、公平性の監査には使う」という使い分けが実務では重要になります。
つまり「センシティブ属性=一切触れてはいけない情報」と単純化するのではなく、「判断根拠にしてはならないが、公平性を確認するためには適切に管理しながら把握が必要な情報」という二面性で理解するのが正確です。
法制度上の「配慮が必要な情報」との関係
日本の個人情報保護法にも「要配慮個人情報」という近い概念があり、人種、信条、社会的身分、病歴、犯罪の経歴などが定められ、取得には原則として本人の同意が必要です。機械学習の公平性で語られるセンシティブ属性と重なる部分は多いものの、要配慮個人情報は法律上の定義に基づく分類、センシティブ属性は公平性の文脈で差別につながり得る属性を広く指す概念、という位置づけの違いがあります。混同しないようにしましょう。
💡 具体例で考える
採用AIの「男性優先」問題
公式テキストが触れる採用選考の事例として、米Amazonが開発していた履歴書評価AIが知られています。過去の応募データ(技術職は男性が多数)から学習した結果、性別欄を直接使わなくても「女子チェスクラブ」のような女性を示唆する語を含む履歴書を低く評価する傾向を示したと2018年に報じられ、開発は中止されました。センシティブ属性そのものを入力しなくても、履歴書の言葉づかいという間接情報経由で性別が判断に影響した、除外の限界を示す実例です。
保険・与信での年齢や国籍の扱い
融資審査AIで国籍や年齢によって審査結果が系統的に変わるとすれば、公平性の重大な問題になります。一方で、年齢のように保険・金融の商品設計上ある程度考慮が正当化され得る属性もあり、「どの属性を、どの用途で、どこまで使ってよいか」は法規制や社会的合意に依存します。何がセンシティブかは絶対的なリストではなく、文脈によって範囲が変わることも覚えておきましょう。
⚠️ よくある誤解・紛らわしい用語
- 「入力から除外すれば公平になる」は誤り — 他の関連情報(代理変数)から間接的に推測されるリスクが残ります。公式テキストが明記する最重要ポイントです。
- 代理変数との違い — センシティブ属性は守るべき属性そのもの、代理変数はその属性と相関し間接的に表現してしまう別の変数です。ペアで出題されやすい組み合わせです。
- 要配慮個人情報とは由来が異なる — 個人情報保護法上の法的な分類と、AIの公平性文脈の概念は、重なりつつも別物です。
- 「センシティブ属性は絶対に収集してはいけない」わけではない — 公平性の検証(監査)のために適切な管理のもとで把握が必要な場合もあります。用途と管理の問題です。
📝 試験でのポイント
- 定義問題では「人種、性別、年齢、宗教、国籍、障害の有無」「差別や偏見の原因となり得る情報」という言い回しが正解の目印です。
- 「センシティブ属性を除外すれば公平性は確保できる」という趣旨の選択肢は誤りです。間接的な推測リスクまで含めて正しい記述を選びましょう。
- 採用AIが男性を優先した事例文から、センシティブ属性(またはアルゴリズムバイアス)を答えさせる出題が想定されます。
- 代理変数・公平性の定義との組み合わせ問題では、「属性そのもの=センシティブ属性/相関する間接変数=代理変数」の対応関係を確実に。
📚 まとめ
- センシティブ属性とは、人種・性別・年齢・宗教・国籍・障害の有無など、差別や偏見の原因となり得る個人の属性情報です。
- これらがAIの学習や推論に影響すると、特定の集団に不公平な結果をもたらすおそれがあります。
- 直接使用しない・影響を最小限にする手法が研究されていますが、除外だけでは代理変数経由で間接的に推測されるリスクが残ります。
- データ収集からモデル設計まで、開発の全段階でセンシティブ属性の影響を考慮しバイアスを排除する取り組みが不可欠です。
