A正解
温度
正解。温度は確率分布の鋭さを変え、出力のランダム性(多様さ)を直接調整します。下げると一貫し、上げると多様になります。
ある AI プラクティショナーが、ユースケースに合わせて生成 AI の出力のランダム性(多様さ)を調整したいと考えています。推論パラメータのうち、出力のランダム性に直接影響するものを 2 つ選んでください。
出力のランダム性に直接影響する推論パラメータを 2 つ選ぶ問題。
温度
正解。温度は確率分布の鋭さを変え、出力のランダム性(多様さ)を直接調整します。下げると一貫し、上げると多様になります。
最大トークン数
最大トークン数は、出力の長さの上限を決めるパラメータです。
長さを制限するだけで出力のランダム性(多様さ)は変えないため不正解です。
コンテキストウィンドウ
コンテキストウィンドウは、一度に渡せる入力量の上限に関わる要素です。
入力容量の話であり、出力のランダム性は変えないため不正解です。
Top-P
正解。Top-P は、累積確率が指定割合に達するまでの候補に絞ってから選ばせるパラメータです。絞り方を変えることで出力のランダム性(多様さ)に直接影響します。
停止シーケンス
停止シーケンスは、指定した文字列が出たら生成を打ち切る設定です。
どこで止めるかを決めるだけで、出力のランダム性は変えないため不正解です。
出力のランダム性を直接動かすのは『候補の選ばれ方』に作用するパラメータ。
・温度: 確率分布の鋭さを変える(↓一貫/↑多様)。
・Top-P / Top-K: 候補を累積確率/個数で絞る。
一方、最大トークン数(長さ)・コンテキストウィンドウ(入力容量)・停止シーケンス(打ち切り)は、出力の量や範囲を制御するだけでランダム性は変えません。