QUESTION

ある企業は、強化学習を使用して、サイトの訪問者に表示するおすすめ記事を選ぶシステムを構築しています。記事がクリックされるとプラスの値、すぐに離脱されるとマイナスの値を行動の結果として受け取ります。 この値を表す用語は、次のうちどれですか。

1 / 1
回答を選択してください
正解C

解説

強化学習で、行動の結果として受け取る値の名称を選ぶ問題

  • 1「プラスの値、すぐに離脱されるとマイナスの値」行動の良し悪しを正・負の値で返す (報酬の性質)
  • 2「行動の結果として受け取ります」正解の行動を直接教えるのではなく、行動への評価を返す (ラベルとの違い)
A不正解

教師ありの正解ラベル

正解ラベルは、教師あり学習で各入力に事前に付ける正解です。行動の後に受け取る評価値ではなく、学習の前に人が付けるものなので、要件を満たしません。

B不正解

環境の現在の状態

状態は、ある時点の環境の様子です。行動を取るたびに新しい状態が生じますが、プラスやマイナスの評価値ではないため、要件に合いません。

C正解

強化学習の報酬

報酬は、行動の結果として環境から返される正・負・ゼロの値です。強化学習のエージェントは、報酬の累積が大きくなるように行動を選び直して学びます。正解の行動を直接教えない点で、教師ありの正解ラベルとは区別されます。

D不正解

エージェント

エージェントは、環境の中で行動を選んで学ぶ主体です。値を受け取る側であり、値そのものではないため、要件の対象外です。

ポイント

強化学習の「報酬」は、行動の結果として返される評価値です。教師あり学習の「正解ラベル」は、各入力に事前に付ける正解そのものです。
・訪問者の状態は、行動を選ぶ前の観察対象です。
・エージェントは学習する主体で、値そのものではありません。
要件が「行動の結果として受け取る値」か「入力に付ける正解」かで判断します。