A正解
単語の意味を文脈に応じてベクトルに反映できるから
正解。埋め込みは単語や文の意味を、周囲の文脈に応じてベクトルとして表現します。これにより同じ単語でも文脈ごとの意味の違いをモデルが捉えられ、言語の理解と生成の正解率が向上します。
ある AI プラクティショナーが、社内勉強会で LLM の仕組みを解説しています。LLM が内部で埋め込み(ベクトル表現)を使うことで、自然言語の応答の正解率が高まると説明するとき、その理由として最も適切なものはどれですか。
埋め込みが LLM の正解率を高める理由を選ぶ問題。
単語の意味を文脈に応じてベクトルに反映できるから
正解。埋め込みは単語や文の意味を、周囲の文脈に応じてベクトルとして表現します。これにより同じ単語でも文脈ごとの意味の違いをモデルが捉えられ、言語の理解と生成の正解率が向上します。
応答のレイテンシーを直接下げられるから
レイテンシーとは、リクエストを送ってから応答が返り始める(または返り終わる)までの待ち時間(応答の遅延)のことです。これは主にモデルアーキテクチャ・計算資源・ハードウェアで決まります。
埋め込みは意味を捉えるための表現であり、応答速度を直接下げるものではないため不正解です。
確率の低い出力を選ばせるようにできるから
出力候補の確率の選び方は、温度や Top-P などの推論パラメータで調整します。
埋め込みは確率分布を直接操作するものではないため不正解です。
余分なトークンの生成を停止できるから
トークン生成の停止は、最大トークン数や停止シーケンスなどの設定で制御します。
埋め込みは意味理解を助けるもので、トークン生成を止める仕組みではないため不正解です。
埋め込みの効果は『文脈に応じた意味をベクトルに反映できるから正解率が上がる』。一方、レイテンシー(速度)・出力確率・トークン生成の停止は、それぞれ計算資源や推論パラメータの担当で、埋め込みの役割ではありません。これらは埋め込み問題の定番ダミーです。