ある AI プラクティショナーが、ユースケースに適した推論方式(リアルタイム / 非同期 / バッチなど)を選ぼうとしています。方式を選ぶ判断材料として適切なものを 2 つ選んでください。

1 / 1
複数選択してください
正解B, D

解説

推論方式を選ぶ判断材料を 2 つ選ぶ問題。

  • 1推論方式(リアルタイム / 非同期 / バッチなど)を選ぼう方式ごとに 得意な応答要件・入力規模 が違う
  • 2判断材料として適切なものを 2 つ応答の速さ・入力サイズと処理時間 が決め手
A不正解

学習データのラベルの有無

ラベルの有無は、学習手法(教師あり / 教師なし)を決めるための判断材料です。

学習済みモデルをどの方式で推論させるか(リアルタイム / 非同期 / バッチ)の選択には関わらないため不正解です。

B正解

求められる応答の速さ(即時か、待てるか)

正解。即時の応答が必要か、後で結果を受け取れるかという許容レイテンシは、リアルタイム/非同期/バッチを選ぶ重要な判断材料です。

C不正解

温度パラメータの設定値

温度は、生成 AI の出力のランダム性を調整する推論パラメータです。

推論時の設定ではありますが、リアルタイム / 非同期 / バッチといった推論方式そのものの選択を決める材料ではないため不正解です。

D正解

入力データのサイズと処理にかかる時間

正解。1 件あたりの入力が大きく処理に時間がかかるか、少量で軽いかは、リアルタイム/非同期/バッチを選ぶ重要な判断材料です。

E不正解

学習時のエポック数

エポック数は、学習時にデータセット全体を何回繰り返して学習するかの設定です。

トレーニングの設定であり、推論方式の選択とは段階が違うため不正解です。

ポイント

推論方式の選択基準は『応答の速さ(即時か、待てるか)』『入力データのサイズと処理時間』『トラフィックが安定か断続か』です。即時+安定→リアルタイム、断続→サーバーレス、大きな入力+数分 OK→非同期、一括処理→バッチと対応します。ラベルの有無(学習手法)・温度(出力調整)・エポック数(学習設定)は、推論方式の選択とは段階が違う判断材料です。