A不正解
公平性
公平性は、特定グループが不当に不利益を被らないようにする性質です。
本問は個別の判断理由を理解できることが論点であり、グループ間の扱いの公平ではないため不正解です。
あるローン審査の AI について、担当者が「なぜこの申込みが却下と判定されたのか」を個別に理解できるようにしたいと考えています。この要求に最も当てはまる責任ある AI の特徴はどれですか。
1 / 1
回答を選択してください
正解C
解説
個別の判断理由を理解できる責任ある AI の特徴を選ぶ問題。
- 1「なぜこの申込みが却下と判定されたのか」個々の予測の根拠 を理解したい＝説明可能性
- 2「個別に理解できる」予測ごとに どの要因が効いたか を示せること
B不正解
プライバシーとセキュリティ
プライバシーとセキュリティは、個人データを保護し不正アクセスを防ぐ性質です。
本問は判断理由を理解できることが論点であり、データ保護ではないため不正解です。
C正解
説明可能性
正解。説明可能性は、モデルが個々の予測になぜ至ったか（どの特徴量がどう影響したか）を理解できる性質です。ローン審査のように判断理由の説明が求められる場面で重視されます。
具体例としては、ある申込みの却下に対して「年収に対する借入希望額の比率が高いことが最も影響した」と、判定を左右した要因を提示できる、といったものが説明可能性の例です。
D不正解
透明性
透明性は、モデルの学習データ・想定用途・既知の制約などを開示する性質で、対象はモデル全体の情報です。
本問が求めるのは『この申込みがなぜ却下か』という個別の判定の根拠であり、全体の開示では答えられないため不正解です。説明可能性との混同に注意が必要です。
ポイント
『なぜその予測になったかを理解する（個別の根拠）』は説明可能性。よく混同する透明性は『開発過程・データ・制約を開示する』こと（モデル全体の情報公開）で、対象が違います。個別予測の理由＝説明可能性、モデル全体の開示＝透明性、と覚えます。