基盤モデルの応用 #1
不要な要素を抑えるネガティブプロンプト
正解の『ネガティブプロンプト』を押さえます。
・出力に含めてほしくない要素(特定の単語・スタイル・対象など)を明示的に指定して抑制する。
・望ましくない結果を避け、出力を意図に近づけるのに使う。
システムプロンプト(全体の役割・方針)・最大トークン数(長さの上限)・バッチ推論(実行方式)はいずれも不要要素を抑制する指定そのものではありません。
ROUGE・BLEU・BERTScore の評価指標の違い
テキスト生成の代表的な評価指標を押さえます。
・ROUGE: 要約評価で、参照要約との語・n-gram の重なりを数える(表面一致ベース)。
・BLEU: 機械翻訳評価で、参照訳との n-gram の一致を見る(表面一致ベース)。
・BERTScore: 生成と参照を埋め込み(ベクトル)に変換し、意味的な近さで評価する(言い換えに強い)。
表面一致の ROUGE/BLEU は言い換えに弱く、意味的な近さで評価したいときは BERTScore を使います。
外部参照の RAG と作り込みのファインチューニング
RAG とファインチューニングの使い分けの核心を押さえます。
・RAG(検索拡張生成): 最新・頻繁に変わる・社内固有の情報を外部参照して反映する(再学習不要)。例: 最新の製品マニュアルや社内規程を検索して回答に使う。
・ファインチューニング: 決まった文体・出力形式・分類・専門用語など、反復的な挙動をモデル自体に作り込む(重みを更新)。例: 自社サポート窓口の口調や定型フォーマットで答えさせる。
役割を逆にする選択肢や、コストの大小を逆にする選択肢が定番のひっかけです。両者は併用もできます。
ファインチューニング用データに求められる品質
ファインチューニング用データの準備は『タスクに沿った高品質・代表的なデータを、適切にラベル付け』が基本。データのキュレーションとガバナンス(権利・プライバシー・偏りの管理)が重要です。『量さえあれば品質は不問』『ラベルなしでよい』『無関係データを混ぜる』はいずれも性能を下げる誤りです。
有害な出力と個人情報を抑える Bedrock ガードレール
Bedrock ガードレールで設定できる保護には『有害コンテンツ(ヘイト・暴力など)のフィルタ』『個人情報(PII)の検出・マスキング』があります(ほかに禁止トピックの遮断、プロンプト攻撃のブロック、自動推論チェックなど)。