AIエージェントとRAGとは?結論は「役割が違い、組み合わせて使う」

AIエージェントとRAGは役割が違い、組み合わせて使う関係です。RAG(検索拡張生成)は答えの根拠となる知識を担い、AIエージェントは手順を決めて実行する部分を担います。対立する技術ではなく、補い合う技術です。

この記事は、社内文書を使ったAI活用を検討する情シス・DX担当や経営企画の方に向けて書いています。技術者向けの実装解説ではなく、導入判断に必要な範囲で仕組みと進め方を整理します。AIエージェントそのものの全体像は、AIエージェントとはにまとめています。

RAGとAIエージェントの役割の違いとは

図は、役割・強み・弱み・向く用途の4行を、RAG/AIエージェント/組み合わせの3列で比べたものです。RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行になります。

RAGとAIエージェントと両者の組み合わせを、役割・強み・弱み・向く用途の4行で比べた表。RAGは根拠を探し、エージェントは手順を決め、組み合わせると根拠付きで実行できる。
RAGは答えの根拠、AIエージェントは手順と実行を担う。どちらか一方ではなく、組み合わせることで社内業務に使える形になる。
  • 役割:RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行ができる
  • 強み:RAGは正確さ、AIエージェントは自律性、組み合わせれば両方を得られる
  • 弱み:RAGは判断しない、AIエージェントは根拠が薄い、組み合わせには設計が要る
  • 向く用途:RAGは文書照会、AIエージェントは定型業務、組み合わせは社内業務全般

どちらを選ぶかの判断基準

判断の軸は「答えに根拠が要るか」と「手順を任せたいか」の2つです。根拠だけ要るならRAG、決まった手順を回すだけならAIエージェント、社内文書を根拠に手順まで任せたいなら両方です。

2026年10月時点で、社内文書を使うAI活用の多くは「規程や手順書を引いて答え、必要な処理まで進める」ことを求めます。この要望は片方では満たせないので、組み合わせを前提に設計するのが近道です。

LLM・RAG・AIエージェントの違い:何を足すと何ができるか

LLMが土台で、RAGとAIエージェントはその上に積む機能です。LLM(大規模言語モデル)は言葉を生成し、RAGで社内情報の参照を足し、AIエージェントで手順を決めて実行する力を足します。何を足すと何ができるかで整理すると、違いが掴めます。

図は、LLM:言葉を生成する、RAG:社内情報を参照、AIエージェント:手順を決めて実行の3段を積み上げた形です。上に行くほど、業務で使える範囲が広がります。

LLMを土台に、RAGで社内情報の参照という知識を足し、AIエージェントで手順を決めて実行する行動を足す、3段の積み上げを示した工程図。
LLMだけでは学習時点の一般知識で答える。RAGで自社の情報を足し、エージェントで手順と実行を足すと、業務に使える。
  • LLM:言葉を生成する。学習時点の一般知識で答えるので、自社の規程や最新の情報は知らない
  • RAG:社内情報を参照。質問に関連する文書を検索し、その内容を根拠に答えを作る
  • AIエージェント:手順を決めて実行。目的に向けて何を調べ、どのツールを使うかを自分で決める

RAG(検索拡張生成)とは

RAGは、LLMに外部の知識を検索して渡し、その内容を根拠に答えを生成する仕組みです。社内文書をベクトル(意味の近さを数値で表した形式)に変換して保存し、質問に近い文書を引き当てます。LLMの再学習(ファインチューニング)をせずに、自社固有の情報で答えられるのが利点です。

IBMは、標準のRAGパイプラインを検索コンポーネントと生成コンポーネントの2つで説明しています。検索の精度がそのまま答えの精度を決めるので、文書の整備が品質を左右します。

AIエージェントとは

AIエージェントは、目的を与えると手順を自分で決め、ツールを呼び出して実行するAIです。検索・計算・社内システムへの入力などを、状況に応じて選びます。チャットボットが1問1答で終わるのに対し、複数の手順を順に進められる点が違います。

呼び方の違い(エージェント型AI・エージェンティックAIなど)は、AIエージェントとエージェンティックAIの違いで整理しています。

従来RAGとエージェント型RAGの違い

従来RAGは、質問を受けて1回検索し、その結果から答えを生成して終わります。エージェント型RAG(Agentic RAG)は、AIエージェントが検索の要否や検索先を判断し、足りなければ検索をやり直します。図の中では「エージェント型」と短く表記しています。

経費精算の規程を照会する例で、答え方の差を比べます。

問い:出張の宿泊費はどこまで精算できますか 答え方
RAGだけ 旅費規程の該当条項を引き、上限と条件を根拠付きで示す。申請は進めない
エージェントだけ 一般的な慣行で答えがちで、自社の規程に合わない。申請画面への入力は進められる
両方 規程を根拠に上限を答え、条件を満たすか確認したうえで申請の下書きまで作る

関連記事: エージェンティックAIとAIエージェントの違い|5軸比較と使い分け

AIエージェントにRAGが必要な理由:誤情報・正確性・透明性

AIエージェント単体では、根拠のない推測で答えを補ってしまうからです。検索上位の解説が共通して挙げる課題は、間違った情報の補完、データの正確性が保証されない、判断基準が不透明の3つです。RAGは、社内文書に根拠を置くことで、この3つを同時に改善します。

図は、推測で補完していた部分を、根拠付き回答に置き換える流れを示します。穴埋めの材料を、LLMの記憶から社内文書に切り替えるのがRAGの役割です。

RAGがない場合はAIエージェントが社内ルールを知らずに推測で穴埋めして誤答するが、RAGを入れると社内文書を出典として示しながら答える、という前後比較。
AIエージェント単体の課題である誤情報・正確性・透明性の3点は、RAGで社内文書に根拠を置くことで同時に改善する。

誤情報:間違った情報の補完を防ぐ

LLMは、知らないことを聞かれても、それらしい文章を作れます。社内規程にない手続きを、一般的な慣行から推測で補完してしまうのが誤情報の正体です。RAGがあれば、まず社内文書を検索し、該当する記述を根拠に答えるので、推測の入る余地が減ります。

該当する文書が見つからないときは「見つからない」と返す設計にできます。答えられない問いに答えないことも、誤情報対策の一部です。

正確性:最新の社内情報を取得する

LLMの知識は学習時点で止まっています。規程の改定や担当の変更は反映されないので、AIエージェントが古い情報で手順を進める恐れがあります。RAGは検索のたびに最新の文書を取得するので、更新した文書を置き換えるだけで答えが追いつきます。

正確性は、文書の正本が1か所にある前提で成り立ちます。古い版と新しい版が混在すると、RAGはどちらも引いてしまい、精度が落ちます。

透明性:出典を示して判断基準を見せる

AIエージェントが何を根拠に判断したかは、外からは見えにくいものです。RAGは答えと一緒に参照した文書と箇所を示せるので、人が検証できます。出典を示せる答えは、担当者が上長や顧客に説明する場面でも使えます。

AIエージェント×RAGの仕組み:検索→思考→生成→検証とMCPの役割

エージェント型RAGは、計画・検索・生成・検証の順に動きます。従来RAGが検索と生成だけだったところに、前後へ計画と検証を足した形です。MCP(Model Context Protocol、AIと外部ツールを繋ぐ共通規格)は、このうち検索先に繋ぐ部分で使われます。

図は、計画:問いを分解する、検索:文書・DBを引く、生成:根拠から回答、検証:不足なら再検索の4工程です。検証で足りないと判断すれば、計画か検索に戻ります。

エージェント型RAGの4工程。問いを分解して検索先を決める計画、文書やデータベースを引く検索、根拠から答える生成、不足があれば再検索する検証を順に示した工程図。
従来RAGは検索して生成するだけだが、エージェント型は計画と検証が加わり、足りなければ自分で検索をやり直す。MCPは検索先に繋ぐ規格として使われる(2026年10月時点)。
  • 計画:問いを分解する。「旅費規程の上限と、今回の申請が条件を満たすか」のように、調べる単位に分ける
  • 検索:文書・DBを引く。分解した問いごとに、規程の文書や申請データベースなど適した検索先を選ぶ
  • 生成:根拠から回答。取得した文書を根拠に答えを組み立て、出典を添える
  • 検証:不足なら再検索。根拠が足りない、矛盾があると判断したら、条件を変えて検索をやり直す

代表的な構成パターンの違い:ルーティング・クエリ計画・ReAct・計画と実行

エージェント型RAGには、いくつかの型があります。Salesforceの解説でも紹介されている代表的なものを短く挙げます。

  • ルーティング:質問の内容に応じて、規程の文書・顧客データベース・Web検索など最適な検索先に振り分ける
  • クエリ計画:複雑な質問を複数の小さな問いに分解し、それぞれ検索して統合する
  • ReAct:推論(Reason)と行動(Act)を交互に繰り返し、検索結果を見ながら次の手を決める
  • 計画と実行:先に全体の手順を立て、その順に実行し、結果を見て計画を修正する

複数のエージェントで分担する構成は、マルチAIエージェントで扱っています。

MCPとRAGの違い:接続の規格と根拠を取る方法

MCPは外部ツールやデータに繋ぐ「接続の規格」、RAGは繋いだ先から「根拠を取って答える方法」です。層が違うので競合せず、むしろ組み合わせて使います。MCP公式は、MCPをAIアプリにとってのUSB-Cポートに例えています。

2026年10月時点では、社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先として使う構成が一般的です。RAGをMCPで繋ぐ、と考えると関係が掴みやすくなります。

エージェント型RAGの定義と構成要素は、IBMの解説が一次資料として参照できます(IBM「エージェント型RAGとは」)。MCPの仕様と対応範囲は公式サイトに整理されています(Model Context Protocol)。

AIエージェント×RAGでできること:社内ナレッジ・問い合わせ・法務

文書に根拠がある照会や一次回答から任せるのが安全です。私たち株式会社くるみは、AIの弱点を「待てば解決する側」と「待っても解決しない側」に分けて考えています。精度や速度は時間が解決しますが、責任を伴う最終判断は待っても解決しないので人が持ちます。

社内ナレッジ検索・問い合わせ一次回答:定型の照会業務の事例

社内ナレッジ検索は、規程・手順書・FAQを根拠に答える、RAGの基本の使い道です。AIエージェントを組み合わせると、該当部署への取り次ぎや申請の下書きまで進められます。

カスタマーサポートの一次回答も同じ構造です。製品マニュアルや過去の対応記録を根拠に回答案を作り、人が確認して送る形から始めると崩れにくくなります。

法務・契約書の確認と調査レポート作成:根拠の提示が要る業務の事例

契約書の条項確認は、自社の契約ひな形や審査基準を根拠に、差分や抜けを指摘する使い方です。最終的な可否は法務担当が判断し、AIは根拠の提示と論点の整理を担います。

調査レポート作成は、社内外の資料を検索して集め、出典付きでまとめる業務です。計画と検証を回すエージェント型RAGが向く領域で、人は結論の妥当性を確認します。

どこから任せるかの判定基準

図は、規程・FAQの照会、問い合わせ一次回答、契約書の条項確認、議事録の要約、最終判断・交渉の5つを、任せやすい順に並べたものです。上ほど文書に根拠があり、下ほど責任を伴います。

AIエージェントとRAGに任せる候補となる5つの業務を並べ、根拠が文書にあるか、待てば精度が上がる種類の弱点かという2つの軸で任せる順を判定する図。
精度や速度のように時間が解決する弱点なら任せてよい。責任を伴う最終判断は待っても解決しないので人が持つ。判定表の全体はAI導入の記事で。
  • 規程・FAQの照会:正本の文書に答えがあり、誤答も人がすぐ検証できる。最初に任せる業務
  • 問い合わせ一次回答:マニュアルと対応記録を根拠に回答案を作る。送信前の確認を人が持つ
  • 契約書の条項確認:ひな形と審査基準を根拠に差分を指摘する。可否の判断は法務が持つ
  • 議事録の要約:音声や文字起こしを根拠にまとめる。決定事項の確定は会議の責任者が持つ
  • 最終判断・交渉:責任を伴い、文書に答えがない。待っても解決しない側なので人が持つ

判定の軸そのものは、AI導入の進め方の判定5項目と、AIエージェントとはの記事の判定基準で全体を示しています。中間に位置する業務の置き換え順は、3年で変わる可能性があると見ていて、断定はしません。

よく見るパターンとしては、製造業やサービス業で規程照会から始め、問い合わせ一次回答へ広げる流れが多いです。匿名の自社支援記録で第三者未検証です。企業の例はAIエージェントの導入企業で紹介します。

AIエージェントにRAGを組み込む手順:範囲決め→文書整備→構築→接続→評価

任せる業務を1つ決め、文書を整えてから小さく繋ぐ順で進めます。つまずく原因の多くは文書の整備不足なので、RAGの検索精度を先に確認し、ツール接続は最後に回します。

図は、範囲を決める:任せる業務を1つ、文書を整える:正本を1か所に、RAGを作る:検索精度を確認、ツールを繋ぐ:手順を任せる、評価する:誤答率を測るの5工程です。前の工程を飛ばすと、後の工程で手戻りが出ます。

AIエージェントにRAGを組み込む5工程。任せる業務を1つ決め、文書の正本を1か所に整え、Q&A形式でRAGの検索精度を確認し、MCPやAPIでツールを繋ぎ、誤答を人が点検して評価する。
つまずく原因の多くは文書の整備不足にある。RAGの検索精度を先に確認し、ツール接続は最後に小さく始める。
  • 範囲を決める:任せる業務を1つ。規程照会など、文書に根拠があり誤答を検証しやすい業務を選ぶ
  • 文書を整える:正本を1か所に。古い版を退避し、更新の担当と置き場所を決める
  • RAGを作る:検索精度を確認。質問と正解の対を用意し、該当文書を引けるかを先に見る
  • ツールを繋ぐ:手順を任せる。MCPかAPIで、申請の下書きなど1つの操作から小さく始める
  • 評価する:誤答率を測る。実際の問いへの回答を人が点検し、誤りの原因を文書・検索・生成に分ける

範囲決めと文書整備の手順:正本を1か所にまとめる

範囲決めでは、業務の入口と出口を文で書き出します。「規程の該当条項を示す」までか、「申請の下書きを作る」までかで、必要な接続が変わります。

文書整備は、散らばった規程や手順書を集め、正本を1か所に置く作業です。同じ内容の古い版が残っていると、RAGが引き当てる文書がぶれて精度が落ちます。更新時に正本を差し替える担当を決めておくと、運用が崩れにくくなります。

RAG構築とツール接続の手順:Q&A形式で検索精度を先に確認する

RAG構築では、想定する質問と正解となる文書の対を用意し、検索で該当文書を引けるかを確認します。生成の良し悪しを見る前に、検索が正しいかを見るのが順序です。検索が外れていれば、文書の分割の仕方や表現の揺れを直します。

ツール接続は、MCPかAPIで1つの操作から始めます。申請の下書きを作るところまでにして、送信は人が行う形にすると、誤動作の影響を抑えられます。

評価の回し方:誤答を人が点検して原因を分ける

評価は、実際の問いに対する回答を人が点検し、誤答の原因を分類する作業です。原因が文書にあるのか、検索にあるのか、生成にあるのかを分けると、直す場所が定まります。点検した問いは、次の検索精度の確認に使い回せます。

技術的な作り方は、AIエージェントの作り方とAIエージェント開発で扱っています。

導入時の課題と依頼先の選び方:内製・外注・伴走

つまずきは文書とデータの品質に集中し、初期は伴走が向きます。検索上位の解説が挙げる課題は、既存システムとの統合、データ品質が精度に直結すること、コストの最適化、セキュリティと権限管理の4つです。

導入時の課題と注意点:データ品質・統合・権限管理

  • 既存システムとの統合:規程の置き場所、申請システム、認証基盤がばらばらだと接続の手間が増える。MCPかAPIで繋ぐ先を絞る
  • データ品質が精度に直結:文書の重複・古い版・表現の揺れが、そのまま誤答になる。整備を先に行う
  • コスト最適化:検索の回数と生成の長さで費用が変わる。範囲を絞り、検証の回数に上限を置く
  • セキュリティと権限管理:人事や契約の文書は、閲覧できる人を限定する。RAGの検索結果にも同じ権限を効かせる

私たちは、文書整備と権限設計を「入場券」と呼んでいます。どこに頼んでも必須で、ここで差は付きません。差が付くのは業務の切り分けと評価の設計で、ここを社内に残せるかが進め方を選ぶ基準になります。

内製・外注・伴走の比較:知見をどこに残すか

図は、立ち上げ、社内に残る知見、初期の負担、向く会社の4行を、内製/外注/伴走の3列で比べたものです。伴走は、立ち上げの速さと社内に残る知見を両立しやすい形です。

AIエージェントとRAGの導入を内製・外注・伴走で進める場合を、立ち上げの速さ、社内に残る知見、初期の負担、向く会社の4行で比べた表。
文書整備と権限設計はどの進め方でも必須の入場券。業務の切り分けと評価の設計が差の付く条件で、伴走はここを社内に残しやすい。
  • 立ち上げ:内製は遅い、外注は速い、伴走は速い。社内に経験者がいない段階では、内製だけだと時間がかかる
  • 社内に残る知見:内製は多い、外注は少ない、伴走は多い。評価の設計と文書整備の判断が社内に残るかで差が出る
  • 初期の負担:内製は人手、外注は費用、伴走は両方少し。担当者の時間と外部の支援を分け合う
  • 向く会社:内製は技術者あり、外注は運用も任せる、伴走は自走したい。将来の運用主体で選ぶ

依頼先の選び方の基準:評価の設計を一緒に作れるか

依頼先を選ぶ基準は、文書整備から評価の設計まで一緒に作り、型を社内に渡せるかです。構築だけで終わる相手だと、文書が更新されたときに精度が落ちても直せません。私たちはこの型作りを業務のAI化支援として提供しています。

導入全体の進め方は、AIエージェント導入の進め方にまとめています。

AIエージェントとRAGに関するよくある質問

関連して検索されやすい疑問に、1問1答で答えます。

AIエージェントとRAGの違いは?

RAGは、社内文書などを検索して根拠を取り、その内容を基に答えを生成する方法です。AIエージェントは、目的に向けて手順を決め、ツールを呼び出して実行するAIです。RAGが「何を根拠に答えるか」、AIエージェントが「どう進めるか」を担い、対立せず補い合います。

AIエージェントがあればRAGはいらない?

いらなくなりません。AIエージェントは手順を決められますが、自社の規程や最新の社内情報を自分で持ってはいないので、根拠はRAGから取る必要があります。先にRAGを作っておけば、後からAIエージェントを足しても検索先としてそのまま使えるので、無駄にはなりません。

MCPとRAGはどう違う?併用できる?

MCPは、AIアプリを外部のデータやツールに繋ぐ接続の規格です。RAGは、繋いだ先から根拠を取って答える方法です。層が違うので併用できます。社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先に使う構成が、RAGとMCPを組み合わせた典型です。

Microsoft CopilotやGeminiでもRAGやAIエージェントは使える?

使えます。2026年10月時点で、Microsoft 365 Copilotは組織内のデータを参照して答える設計で、Geminiも接続した情報源を根拠に答えられます。製品内で完結するRAGと考えると掴みやすいです。詳しくはCopilot AIエージェントとGemini AIエージェントで扱っています。

RAG・AIエージェントの入門はどこから学べばいい?

LLMの限界、RAGの検索と生成、AIエージェントの計画と実行の順に学ぶと、積み上げの関係が掴めます。書籍を読む前に、自社の規程を1つ選び、質問と正解の対を作ってみると理解が早まります。作り方の手順は、AIエージェントの作り方の記事にまとめています。

まとめ:RAGで根拠を持たせ、エージェントに手順を任せる

RAGで根拠を持たせ、AIエージェントに手順を任せるのが答えです。両者は補い合う関係で、文書に根拠がある業務から任せると崩れにくくなります。

結論の再確認:補い合う関係とは

図は冒頭と同じ、役割・強み・弱み・向く用途をRAG/AIエージェント/組み合わせで比べたものです。根拠を探すRAGと手順を決めるAIエージェントを合わせると、根拠付き実行になります。

RAGとAIエージェントと両者の組み合わせを、役割・強み・弱み・向く用途の4行で比べた表。RAGは根拠を探し、エージェントは手順を決め、組み合わせると根拠付きで実行できる。
RAGは答えの根拠、AIエージェントは手順と実行を担う。どちらか一方ではなく、組み合わせることで社内業務に使える形になる。
  • 役割:根拠を探すRAGと、手順を決めるAIエージェントで、根拠付き実行を作る
  • 強み:正確さと自律性を両方持てる
  • 弱み:判断しない、根拠が薄い、設計が要るの3つを、組み合わせと設計で補う
  • 向く用途:文書照会と定型業務から始め、社内業務全般へ広げる

次の一手:任せる業務を1つ決め、文書を集める手順

次の一手は、任せてよい業務を1つ決め、その業務の文書を1か所に集めることです。規程照会や問い合わせ一次回答のように、正本があり誤答を検証しやすい業務が候補になります。

どの業務から置き換えられるかを見極めたい場合は、AIおきかえくんで無料で診断できます。製品やツールの違いはAIエージェントの比較にまとめています。