お問い合わせ ↗

RAGとは?AIの回答がズレる2つの原因と仕組みを図解【会話例つき】

資料から関連情報を検索し、その根拠を使って回答を作るRAGの生成イラスト

「うちの規程を読んで答えてくれるAIがほしい」。

そう思って調べたら、RAG、検索、ベクトルと知らない言葉が続き、導入以前に疲れてしまうことはありませんか。

RAGは、まず「質問に関係する資料を探し、それを見ながら答える仕組み」と考えると分かりやすくなります。

受付担当者が分厚いマニュアルの該当ページを開いてから案内するイメージです。

ただし、古いページを開けば、丁寧に説明しても答えは古いままです。

資料を探す段階と、見つけた内容を説明する段階を分けると、間違いを直す場所も見えてきます。

この記事では出張精算の例を使い、RAGの流れと回答がズレる2つの原因を図解します。

導入相談で何を聞けばよいか分かる、質問と評価表も用意しました。

RAGは「必要なページを開いてから答える」仕組み

資料から関連情報を検索し、その根拠を使って回答を作るRAGの生成イラスト

通常の生成AIへ「うちの出張精算の締切は?」と聞いても、自社の最新規程を知らなければ正しい答えは決まりません。

RAGでは、まず関連資料を検索し、見つかった内容を回答生成へ渡します。

Microsoftの公式解説も、検索した情報でモデルの入力を補う流れを説明しています。

  • 質問
    架空の出張規程で考えると:出張の精算はいつまで?
  • 検索
    架空の出張規程で考えると:最新版の「精算期限」の節を探す
  • 回答生成
    架空の出張規程で考えると:「帰着後○日以内」という記載を使って案内
  • 出典・次の行動
    架空の出張規程で考えると:規程の該当箇所と申請手続きへ案内

検索した情報を会話の材料にする構成なので、資料を渡しただけでモデル自体を再学習したことにはなりません。

答えがズレる原因は二つ。検索と回答を分けて見よう

複数の画面を見ながら机で作業する人
  • 旧規程を検索している
    先に見る場所:回答に使われた資料
    改善の方向:旧版を外し、適用日を明記
  • 交通費の節ばかり出る
    先に見る場所:検索結果と資料の区切り
    改善の方向:期限の節に見出しと対象を補う
  • 正しい節はあるのに別の期限を回答
    先に見る場所:実際の回答と回答指示
    改善の方向:根拠の範囲、情報不足時の返し方を見直す
  • 社員区分を聞かずに断定
    先に見る場所:質問条件と資料の対象
    改善の方向:区分を確認してから案内

回答文だけを読んで「AIの精度が悪い」と判断すると、直す場所を見失います。

必要な根拠を取り出せたか、その根拠から正しく説明できたかの二段階で評価しましょう。

検索結果を確認できる方法は、使うサービスや構成で異なります。

資料を全部入れず、答えを判断できる一業務から

質問から関連資料を探し、根拠を渡して回答するRAGの流れ

最初は、担当者が正誤を判断できる一つの業務を選びます。

PDFが百冊あることより、どれが最新版で、誰に適用されるかを説明できることが重要です。

資料を準備するときの記入例

業務:国内出張の精算案内。

資料:国内出張規程・現在の申請手順。

対象:国内出張をした従業員。

適用:施行日以降の出張。

対象外:海外出張、例外の承認判断。

相談先:経理窓口。

資料を区切る場合も、表の見出しや適用条件を落とさないようにします。

たとえば「7日以内」だけ取り出すと、何の期限か分かりません。

「国内出張の精算」「帰着後」「対象者」と一緒に確認できる形を目指します。

社外公開のチャットには公開できる情報だけを用意してください。

この記事の記入例を参考に、ピタリーで案内役を試してみよう

ピタリーを無料で試す →

自社での使い方・Web設置を相談する →

無料体験の範囲・公開や商用利用の条件は、登録画面とプランをご確認ください。

導入前に使える評価表。正解だけでなく「答えない」も試す

ガラス越しに見える会議室で話す人たち
  • 通常
    質問例:国内出張の精算期限は?
    期待する動き:最新版の対象と期限を説明
  • 条件不足
    質問例:出張の申請はいつ?
    期待する動き:事前申請か精算かを確認
  • 対象外
    質問例:海外出張も同じ?
    期待する動き:国内の規程を当てはめず別案内
  • 古い前提
    質問例:前の規程の期限でよい?
    期待する動き:現在の適用条件を確認
  • 未記載
    質問例:例外扱いを承認して
    期待する動き:判断せず担当者へ案内

表へ実際の回答と判定を足すと、改善前後を比較できます。

資料を直したときも同じ質問で試し、ある質問だけ良くなって別の質問が悪くなっていないか確認します。

正式な期限の数字は、自社の規程で埋めてください。

選ぶ基準は方式名より、資料・更新・運用の相性

ピタリー公式サイトで使われているキャラクターのメインビジュアル

RAGという名称だけで、欲しい機能がそろうわけではありません。

自社の資料形式、更新方法、利用者の権限、回答を確認する方法をそろえて比較します。

  • 資料
    導入相談で伝える内容:形式、量、更新頻度、公開できる範囲
  • 利用者
    導入相談で伝える内容:顧客向けか社内向けか、閲覧制限の有無
  • 案内のゴール
    導入相談で伝える内容:FAQ閲覧、商品紹介、担当者への相談
  • 運用
    導入相談で伝える内容:正誤を判断する担当者、更新・再テストの方法

ピタリーは、知識やFAQを整理して登録する使い方を公開しています。

この記事はRAGの一般的な仕組みの解説で、ピタリー内部の検索方式を説明するものではありません。

使い方の検討では、方式名より「自社の質問へ何を案内できるか」を実際の画面で確かめましょう。

仕組みを読んだら、ピタリーで「案内したい一問」を試す

ピタリー公式サイトのファーストビューとAIチャット無料体験ボタン

ピタリーを使うと、利用者と担当者の動きはどう変わる?

公開FAQを使う案内の設計例です。

  • 導入前の動き
    資料を読む仕組みの説明だけでは、自社の利用者がどう質問し、どの窓口へ進めるかが見えにくい。
  • ピタリーを使う構成
    ピタリーでは知識やFAQを整理して登録し、キャラクターとの会話で案内の内容と話し方を試せる。RAGの方式名と、利用者に伝わる案内の設計を分けて検討する。
  • 担当者に残る仕事
    資料の正しさに加え、条件が不足したときの聞き方と、正式な案内先を確認する。ピタリー内部の検索構成をこの記事で断定するものではない。

ピタリーで試す会話の流れ

公開FAQの「初回利用の準備」を登録し、「何から始める?」「自分の場合は?」と聞いて、説明と相談先を確かめる。

まず公開してよい質問を一つ用意し、回答に必要な情報と相談先を書き出します。

無料体験でキャラクターや話し方を試し、知識・FAQを使った案内の設定へ進めてみてください。

体験前に用意するもの

質問:自社サービスの相談はどこからできますか?
根拠:公式のお問い合わせページ。

期待する答え:受付内容を短く説明し、公式窓口を案内。

対象外:未確認の見積金額や契約の確約。

社内規程や複雑な権限が必要なら、その条件を持って法人向け導入相談へ進みます。

この会話なら、どこでズレたかを判断できる

資料の例を一つに固定する

架空の公開案内:「体験会は土曜日14時開始。

対象は初めて参加する方。

申込先は体験会ページ」。

この三条件だけを答えの根拠にする例です。

実際の社内規程や個人情報は使わず、公開してよい情報で試します。

質問と期待する回答を対にする

質問:「日曜日も参加できますか?」。

期待する返し方:「案内されている開催日は土曜日です。

別日程は体験会ページまたは担当窓口でご確認ください」。

資料にない日曜日の予定を作らないことが判断点です。

違いを見分ける

別のイベントの資料を使ったなら検索する範囲を見直します。

正しい資料を使いながら「日曜日も開催」と答えたなら、回答の作り方を見直します。

根拠を確認する手段は製品ごとに異なるため、導入時に確認してください。

ピタリーでは、まずこのような一問と公開FAQを用意して、案内内容の分かりやすさを試せます。

質問・根拠資料・期待する答えを一組にして、ピタリーの体験へ進む

ピタリーを無料で試す →

自社での使い方・Web設置を相談する →

無料体験の範囲・公開や商用利用の条件は、登録画面とプランをご確認ください。

参考情報

編集:AIVy編集部。会話・記入例は設計例です。

参考資料・関連情報

執筆・編集:AIVy編集部 / 最終確認:2026.11.21

← コラム一覧へ記事についてお問い合わせ ↗

関連記事

法人プラン 月額19,800円〜(税別・税込21,780円〜)

キャラクターAIの接客を、始める。

商品・サービスの案内や、よくある質問への対応に。あなたの会社らしい接客を、ピタリーから。

法人プランではじめる ↗登録せずに接客を試す ↗導入について相談する ↗

機能・利用条件は登録画面でご確認ください。キャラクター制作・独自連携は個別にご相談いただけます。