A正解
トレーニングデータや予測が、年齢などの属性グループ間で不均衡であること。
バイアスは、トレーニングデータやモデルの予測が年齢などの属性グループ間で偏り、不均衡になっている状態を指します。全体の正解率が高くても、特定のグループで精度が低ければバイアスがあると見なされます。機械学習のバイアス・バリアンスの文脈では、学習不足のモデルは高バイアス (bias) を示すため、本問の意味とは区別します。
QUESTION
AI のモデルにおけるバイアスを説明しているものは、次のうちどれですか。
1 / 1
回答を選択してください
正解A
解説
AI のバイアスを、属性グループ間の不均衡として定義する知識を問う問題。
- 1「バイアス」属性グループ間の偏り (不均衡) を指す語
B不正解
属性によって扱いを変えず、特定の個人や集団を差別しないようにすること。
公平性は、特定の個人や集団を差別しないという目指す性質です。バイアスが無い状態を目指す語で、不均衡そのものは表しません。
C不正解
AI システムとの関わり方について、関係者が判断できるよう情報を開示していること。
透明性は、AI システムとの関わり方について関係者が判断できるよう情報を開示する性質です。属性グループ間の不均衡とは別の性質です。
D不正解
モデルがある予測に至った理由を、人が理解できる形で示せること。
説明可能性は、モデルがある予測に至った理由を人が理解できる形で示せる性質です。予測の根拠に関する性質で、属性グループ間の不均衡を表すものではありません。
ポイント
正解の「属性グループ間の不均衡」を押さえます。
・バイアスは、トレーニングデータや予測が年齢などの属性で偏ることを指します。
・全体の正解率が高くても、特定の属性のグループで精度が低ければバイアスがあると見なされます。
・公平性は目指す性質、説明可能性と透明性はそれぞれ別の性質として区別します。