レポートの一部の章が検索の対象として取り込まれておらず、アシスタントがその章を参照できない。
取り込みの漏れは、特定の章についての質問にだけ答えられない場合に、まず疑う原因です。
このアシスタントは、各章の内容を尋ねる質問には正確に答えています。すべての章が検索の対象に入っているので、この理由は症状と合いません。
ある企業は、市場調査レポートに関する質問に回答する生成 AI (GenAI) アシスタントを、検索拡張生成 (RAG) を使用してデプロイしました。各章の内容を尋ねる質問には、根拠に基づいた正確な回答が返されます。しかし、レポート全体の要約を依頼すると、一部の章の内容しか反映されません。 全体の要約に一部の章しか反映されない主な理由は何ですか。
RAG のアシスタントで全体の要約に一部の章しか反映されない主な理由を選ぶ
レポートの一部の章が検索の対象として取り込まれておらず、アシスタントがその章を参照できない。
取り込みの漏れは、特定の章についての質問にだけ答えられない場合に、まず疑う原因です。
このアシスタントは、各章の内容を尋ねる質問には正確に答えています。すべての章が検索の対象に入っているので、この理由は症状と合いません。
検索の対象のレポートが最新の版に同期されておらず、古い内容が参照されている。
検索の対象の同期の遅れは、回答の内容が最新の版と食い違う場合に、まず確かめる原因です。
この問題は、要約に一部の章しか反映されないことです。古い内容が返っているわけではないので、鮮度の問題とは症状が合いません。
モデルがハルシネーションを起こし、レポートにない内容で要約を補っている。
ハルシネーションは、回答にレポートにない数値や記述が混じる場合に、まず疑う原因です。
この要約の問題は、レポートにない内容が作り出されていることではなく、一部の章の内容しか入っていないことです。
RAG は質問に関連する一部の箇所だけをモデルに渡す仕組みで、全体の要約には向かない。
検索拡張生成 (RAG) は、質問に関係する箇所を検索して、その内容をもとに回答する仕組みです。個別の質問には強い一方、検索で取り出されるのは一部の箇所なので、「全体を要約して」という依頼でも取り出された箇所だけがモデルに渡ります。全体の要約は、検索を通さずに全文から要約する別の方法で扱います。
検索拡張生成 (RAG) は、質問に関係する箇所を検索し、その内容をもとに回答します。
・得意: 最新の社内情報や独自の情報に基づく回答、根拠となる文書 (出典) の提示。
・不得意: 文書全体からの要約 (検索で取り出されるのは一部の箇所だけ)。
取り込みの漏れなら特定の章の質問に答えられず、同期の遅れなら古い内容が返り、ハルシネーションならレポートにない内容が混じります。症状と合わない理由を消して選びます。