ある AI プラクティショナーが、ユースケースに合わせて生成 AI の出力のランダム性(多様さ)を調整したいと考えています。推論パラメータのうち、出力のランダム性に直接影響するものを 2 つ選んでください。

1 / 1
複数選択してください
正解A, D

解説

出力のランダム性に直接影響する推論パラメータを 2 つ選ぶ問題。

  • 1出力のランダム性(多様さ)を調整候補の選ばれ方=確率の扱い を変えるパラメータが対象
  • 2ランダム性に直接影響するもの温度・Top-P(Top-K も)が該当。長さ・容量・停止は別
A正解

温度

正解。温度は確率分布の鋭さを変え、出力のランダム性(多様さ)を直接調整します。下げると一貫し、上げると多様になります。

B不正解

最大トークン数

最大トークン数は、出力の長さの上限を決めるパラメータです。

長さを制限するだけで出力のランダム性(多様さ)は変えないため不正解です。

C不正解

コンテキストウィンドウ

コンテキストウィンドウは、一度に渡せる入力量の上限に関わる要素です。

入力容量の話であり、出力のランダム性は変えないため不正解です。

D正解

Top-P

正解。Top-P は、累積確率が指定割合に達するまでの候補に絞ってから選ばせるパラメータです。絞り方を変えることで出力のランダム性(多様さ)に直接影響します。

E不正解

停止シーケンス

停止シーケンスは、指定した文字列が出たら生成を打ち切る設定です。

どこで止めるかを決めるだけで、出力のランダム性は変えないため不正解です。

ポイント

出力のランダム性を直接動かすのは『候補の選ばれ方』に作用するパラメータ。
温度: 確率分布の鋭さを変える(↓一貫/↑多様)。
Top-P / Top-K: 候補を累積確率/個数で絞る。
一方、最大トークン数(長さ)・コンテキストウィンドウ(入力容量)・停止シーケンス(打ち切り)は、出力の量や範囲を制御するだけでランダム性は変えません。