A不正解
ファインチューニング
ファインチューニングは、ラベル付きデータでモデルの重みを追加学習する手法で、データ準備や学習が必要です。
重みを変えず最も手軽に試す手法ではないため不正解です。
事前トレーニング・継続的事前トレーニング・ファインチューニングの違いは、下部のポイントの図にまとめています。
ある開発者が、構築したばかりの生成 AI アプリの出力品質を改善したいと考えています。モデルの重みを変えず、与える指示や例の書き方を工夫するだけで出力を改善する、最も手軽に試せるカスタマイズ手法を使いたい状況です。最も適した手法はどれですか。
1 / 1
回答を選択してください
正解D
解説
重みを変えず最も手軽なカスタマイズ手法を選ぶ問題。
- 1「モデルの重みを変えず」学習を伴わない＝重み更新系（ファインチューニング等）ではない
- 2「最も手軽に試せる」再学習不要で最初に試す＝プロンプトエンジニアリング
B不正解
継続的事前トレーニング
継続的事前トレーニングは、ラベルなし大量データでモデルにドメイン知識を追加学習する手法で、大きなコストがかかります。
事前トレーニングとの違いは、事前トレーニングが何もない状態からモデルをゼロ構築する最初の工程であるのに対し、継続的事前トレーニングはすでに事前学習済みのモデルに対し、特定分野のデータでさらに事前学習を続けてドメイン知識を上乗せする点です。いずれも重みを更新するため、重みを変えず最も手軽に試す手法ではなく不正解です。
3 手法の違いは、下部のポイントの図にまとめています。
C不正解
事前トレーニング
事前トレーニングは、ゼロからモデルを大規模に学習する最もコストの大きい手法です。
継続的事前トレーニングとの違いは、継続的事前トレーニングが既存の事前学習済みモデルに特定分野のデータを足してドメイン知識を上乗せするのに対し、事前トレーニングはまだ何の知識も持たないモデルを大量データで一から構築する最初の工程である点です。最初のモデル構築工程のため、重みを変えず最も手軽に試す手法ではなく不正解です。
3 手法の違いは、下部のポイントの図にまとめています。
D正解
プロンプトエンジニアリング
正解。プロンプトエンジニアリングは、モデルの重みを変えずに、指示・例・出力形式・制約の書き方を工夫して出力を改善する、最も手軽に試せる手法です。
ポイント
カスタマイズ手法はコスト・手間の小さい順に『プロンプトエンジニアリング < RAG < ファインチューニング < 継続的事前トレーニング < 事前トレーニング』。プロンプトエンジニアリングは重みを変えず最も手軽で、まず最初に試す手段です。ファインチューニング以降は重みの学習を伴い、コストが上がります。