与える指示や例を工夫するプロンプトエンジニアリング
正解。プロンプトエンジニアリングは、モデルの重みを変えずに与える指示や例を工夫して出力を改善する、最も手軽な適応方法です。
ある企業が、汎用の基盤モデルを自社の業務に合わせて使うための方法を比較検討しています。インフラの最適化と区別しながら、学習済みの基盤モデルを自社の特定の用途に適応させる代表的な方法を 2 つ選んでください。
基盤モデルを用途に適応させる方法を 2 つ選ぶ問題。
与える指示や例を工夫するプロンプトエンジニアリング
正解。プロンプトエンジニアリングは、モデルの重みを変えずに与える指示や例を工夫して出力を改善する、最も手軽な適応方法です。
自社データで追加学習するファインチューニング
正解。ファインチューニングは、自社のラベル付きデータで追加学習してモデルの重みを更新し、特定用途に特化させる適応方法です。
推論エンドポイントをスケールアウトする
スケールアウトは、処理能力を増やすインフラの対応です。
捌ける量は増えますが、モデルの応答を自社の用途に合わせる適応の方法ではないため不正解です。
出力をキャッシュして再利用する
キャッシュは、同じ質問への応答を高速化・低コスト化する工夫です。
応答の中身を自社向けに変える適応の方法ではないため不正解です。
利用者に近いリージョンへ変更する
リージョンの変更は、レイテンシや所在地要件への対応です。
モデルの応答内容を用途に合わせる適応の方法ではないため不正解です。
基盤モデルを自社に最適化する代表的な方法は 2 つです。
・プロンプトエンジニアリング:モデルの重みは変えず、与える指示や例(フューショット)を工夫して出力を自社の用途に寄せる。素早く安価に試せるのが利点。
・ファインチューニング:自社のラベル付きデータで追加学習してモデルの重みを更新し、特定の業務・ドメインに特化させる。手間とコストはかかるが専門性・精度を高められる。
まず手軽なプロンプトエンジニアリングを試し、足りなければファインチューニングへ、という順で検討します(ほかに RAG・継続的事前トレーニングなど)。