A正解
利用者や影響を受ける人を中心に据えて設計する
正解。人間中心の設計は、利用者や影響を受ける人のニーズ・安全を中心に据えてAI を設計する原則です。人が理解し制御できる AI につながります。
ある企業が、人間中心で説明可能な AI を実現するための設計原則を策定しています。各部門から方針案が提出されました。次の方針案のうち、設計原則として適切なものを 2 つ選んでください。
1 / 1
複数選択してください
正解A, B
解説
説明可能な AI の設計原則を 2 つ選ぶ問題。
- 1「人間中心で説明可能な AI を実現するための設計原則」信頼できる AI を作る 設計の指針
- 2「適切なものを 2 つ」人間中心の設計・透明性の確保 が該当
B正解
仕組み・能力・限界を関係者に分かるよう開示する
正解。透明性の確保は、AI の仕組み・能力・限界・データの扱いを関係者に分かるようにする原則です。説明可能で信頼できる AI を支えます。
C不正解
説明は社内の専門家だけが理解できる技術文書として用意する
技術文書を整える点は一見もっともらしいのですが、説明可能性は影響を受ける一般の利用者にも理解できる形で示すことが核心です。
専門家しか読めない形にとどめると利用者が判断できず、人間中心・透明性の原則に届かないため不正解です。
D不正解
モデルの精度を最大化する単一の指標で良否を評価する
精度は重要な指標ですが、人間中心で説明可能な AI では精度・公平性・説明性のバランスを設計に組み込みます。
精度だけを唯一の評価軸にすると説明性や利用者への配慮が抜け落ちるため、設計原則としては不正解です。
E不正解
想定外の入力には既定の回答を自動で返し人手確認は挟まない
定型処理の自動化は効率的に見えますが、人間中心の設計では人が監督し必要に応じて介入できる余地を残します。
人手確認を一切挟まない方針は制御可能性・人間中心の原則に反するため不正解です。
ポイント
人間中心で説明可能な AI の設計原則は『人間中心の設計（利用者や影響を受ける人を中心に考える）』『透明性の確保（仕組み・能力・限界を分かるように開示する）』の 2 つです。
・専門家だけに説明する、精度だけを唯一の指標にする、人手の介入余地を残さない、といった方針は一見もっともらしくても、利用者の理解・制御を損なうため原則に反します。