AIエージェントとRAGとは?結論は「役割が違い、組み合わせて使う」
AIエージェントとRAGは役割が違い、組み合わせて使う関係です。RAG(検索拡張生成)は答えの根拠となる知識を担い、AIエージェントは手順を決めて実行する部分を担います。対立する技術ではなく、補い合う技術です。
この記事は、社内文書を使ったAI活用を検討する情シス・DX担当や経営企画の方に向けて書いています。技術者向けの実装解説ではなく、導入判断に必要な範囲で仕組みと進め方を整理します。AIエージェントそのものの全体像は、AIエージェントとはにまとめています。
RAGとAIエージェントの役割の違いとは
図は、役割・強み・弱み・向く用途の4行を、RAG/AIエージェント/組み合わせの3列で比べたものです。RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行になります。

- 役割:RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行ができる
- 強み:RAGは正確さ、AIエージェントは自律性、組み合わせれば両方を得られる
- 弱み:RAGは判断しない、AIエージェントは根拠が薄い、組み合わせには設計が要る
- 向く用途:RAGは文書照会、AIエージェントは定型業務、組み合わせは社内業務全般
どちらを選ぶかの判断基準
判断の軸は「答えに根拠が要るか」と「手順を任せたいか」の2つです。根拠だけ要るならRAG、決まった手順を回すだけならAIエージェント、社内文書を根拠に手順まで任せたいなら両方です。
2026年10月時点で、社内文書を使うAI活用の多くは「規程や手順書を引いて答え、必要な処理まで進める」ことを求めます。この要望は片方では満たせないので、組み合わせを前提に設計するのが近道です。
LLM・RAG・AIエージェントの違い:何を足すと何ができるか
LLMが土台で、RAGとAIエージェントはその上に積む機能です。LLM(大規模言語モデル)は言葉を生成し、RAGで社内情報の参照を足し、AIエージェントで手順を決めて実行する力を足します。何を足すと何ができるかで整理すると、違いが掴めます。
図は、LLM:言葉を生成する、RAG:社内情報を参照、AIエージェント:手順を決めて実行の3段を積み上げた形です。上に行くほど、業務で使える範囲が広がります。

- LLM:言葉を生成する。学習時点の一般知識で答えるので、自社の規程や最新の情報は知らない
- RAG:社内情報を参照。質問に関連する文書を検索し、その内容を根拠に答えを作る
- AIエージェント:手順を決めて実行。目的に向けて何を調べ、どのツールを使うかを自分で決める
RAG(検索拡張生成)とは
RAGは、LLMに外部の知識を検索して渡し、その内容を根拠に答えを生成する仕組みです。社内文書をベクトル(意味の近さを数値で表した形式)に変換して保存し、質問に近い文書を引き当てます。LLMの再学習(ファインチューニング)をせずに、自社固有の情報で答えられるのが利点です。
IBMは、標準のRAGパイプラインを検索コンポーネントと生成コンポーネントの2つで説明しています。検索の精度がそのまま答えの精度を決めるので、文書の整備が品質を左右します。
AIエージェントとは
AIエージェントは、目的を与えると手順を自分で決め、ツールを呼び出して実行するAIです。検索・計算・社内システムへの入力などを、状況に応じて選びます。チャットボットが1問1答で終わるのに対し、複数の手順を順に進められる点が違います。
呼び方の違い(エージェント型AI・エージェンティックAIなど)は、AIエージェントとエージェンティックAIの違いで整理しています。
従来RAGとエージェント型RAGの違い
従来RAGは、質問を受けて1回検索し、その結果から答えを生成して終わります。エージェント型RAG(Agentic RAG)は、AIエージェントが検索の要否や検索先を判断し、足りなければ検索をやり直します。図の中では「エージェント型」と短く表記しています。
経費精算の規程を照会する例で、答え方の差を比べます。
| 問い:出張の宿泊費はどこまで精算できますか | 答え方 |
|---|---|
| RAGだけ | 旅費規程の該当条項を引き、上限と条件を根拠付きで示す。申請は進めない |
| エージェントだけ | 一般的な慣行で答えがちで、自社の規程に合わない。申請画面への入力は進められる |
| 両方 | 規程を根拠に上限を答え、条件を満たすか確認したうえで申請の下書きまで作る |
AIエージェントにRAGが必要な理由:誤情報・正確性・透明性
AIエージェント単体では、根拠のない推測で答えを補ってしまうからです。検索上位の解説が共通して挙げる課題は、間違った情報の補完、データの正確性が保証されない、判断基準が不透明の3つです。RAGは、社内文書に根拠を置くことで、この3つを同時に改善します。
図は、推測で補完していた部分を、根拠付き回答に置き換える流れを示します。穴埋めの材料を、LLMの記憶から社内文書に切り替えるのがRAGの役割です。

誤情報:間違った情報の補完を防ぐ
LLMは、知らないことを聞かれても、それらしい文章を作れます。社内規程にない手続きを、一般的な慣行から推測で補完してしまうのが誤情報の正体です。RAGがあれば、まず社内文書を検索し、該当する記述を根拠に答えるので、推測の入る余地が減ります。
該当する文書が見つからないときは「見つからない」と返す設計にできます。答えられない問いに答えないことも、誤情報対策の一部です。
正確性:最新の社内情報を取得する
LLMの知識は学習時点で止まっています。規程の改定や担当の変更は反映されないので、AIエージェントが古い情報で手順を進める恐れがあります。RAGは検索のたびに最新の文書を取得するので、更新した文書を置き換えるだけで答えが追いつきます。
正確性は、文書の正本が1か所にある前提で成り立ちます。古い版と新しい版が混在すると、RAGはどちらも引いてしまい、精度が落ちます。
透明性:出典を示して判断基準を見せる
AIエージェントが何を根拠に判断したかは、外からは見えにくいものです。RAGは答えと一緒に参照した文書と箇所を示せるので、人が検証できます。出典を示せる答えは、担当者が上長や顧客に説明する場面でも使えます。
AIエージェント×RAGの仕組み:検索→思考→生成→検証とMCPの役割
エージェント型RAGは、計画・検索・生成・検証の順に動きます。従来RAGが検索と生成だけだったところに、前後へ計画と検証を足した形です。MCP(Model Context Protocol、AIと外部ツールを繋ぐ共通規格)は、このうち検索先に繋ぐ部分で使われます。
図は、計画:問いを分解する、検索:文書・DBを引く、生成:根拠から回答、検証:不足なら再検索の4工程です。検証で足りないと判断すれば、計画か検索に戻ります。

- 計画:問いを分解する。「旅費規程の上限と、今回の申請が条件を満たすか」のように、調べる単位に分ける
- 検索:文書・DBを引く。分解した問いごとに、規程の文書や申請データベースなど適した検索先を選ぶ
- 生成:根拠から回答。取得した文書を根拠に答えを組み立て、出典を添える
- 検証:不足なら再検索。根拠が足りない、矛盾があると判断したら、条件を変えて検索をやり直す
代表的な構成パターンの違い:ルーティング・クエリ計画・ReAct・計画と実行
エージェント型RAGには、いくつかの型があります。Salesforceの解説でも紹介されている代表的なものを短く挙げます。
- ルーティング:質問の内容に応じて、規程の文書・顧客データベース・Web検索など最適な検索先に振り分ける
- クエリ計画:複雑な質問を複数の小さな問いに分解し、それぞれ検索して統合する
- ReAct:推論(Reason)と行動(Act)を交互に繰り返し、検索結果を見ながら次の手を決める
- 計画と実行:先に全体の手順を立て、その順に実行し、結果を見て計画を修正する
複数のエージェントで分担する構成は、マルチAIエージェントで扱っています。
MCPとRAGの違い:接続の規格と根拠を取る方法
MCPは外部ツールやデータに繋ぐ「接続の規格」、RAGは繋いだ先から「根拠を取って答える方法」です。層が違うので競合せず、むしろ組み合わせて使います。MCP公式は、MCPをAIアプリにとってのUSB-Cポートに例えています。
2026年10月時点では、社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先として使う構成が一般的です。RAGをMCPで繋ぐ、と考えると関係が掴みやすくなります。
エージェント型RAGの定義と構成要素は、IBMの解説が一次資料として参照できます(IBM「エージェント型RAGとは」)。MCPの仕様と対応範囲は公式サイトに整理されています(Model Context Protocol)。
AIエージェント×RAGでできること:社内ナレッジ・問い合わせ・法務
文書に根拠がある照会や一次回答から任せるのが安全です。私たち株式会社くるみは、AIの弱点を「待てば解決する側」と「待っても解決しない側」に分けて考えています。精度や速度は時間が解決しますが、責任を伴う最終判断は待っても解決しないので人が持ちます。
社内ナレッジ検索・問い合わせ一次回答:定型の照会業務の事例
社内ナレッジ検索は、規程・手順書・FAQを根拠に答える、RAGの基本の使い道です。AIエージェントを組み合わせると、該当部署への取り次ぎや申請の下書きまで進められます。
カスタマーサポートの一次回答も同じ構造です。製品マニュアルや過去の対応記録を根拠に回答案を作り、人が確認して送る形から始めると崩れにくくなります。
法務・契約書の確認と調査レポート作成:根拠の提示が要る業務の事例
契約書の条項確認は、自社の契約ひな形や審査基準を根拠に、差分や抜けを指摘する使い方です。最終的な可否は法務担当が判断し、AIは根拠の提示と論点の整理を担います。
調査レポート作成は、社内外の資料を検索して集め、出典付きでまとめる業務です。計画と検証を回すエージェント型RAGが向く領域で、人は結論の妥当性を確認します。
どこから任せるかの判定基準
図は、規程・FAQの照会、問い合わせ一次回答、契約書の条項確認、議事録の要約、最終判断・交渉の5つを、任せやすい順に並べたものです。上ほど文書に根拠があり、下ほど責任を伴います。

- 規程・FAQの照会:正本の文書に答えがあり、誤答も人がすぐ検証できる。最初に任せる業務
- 問い合わせ一次回答:マニュアルと対応記録を根拠に回答案を作る。送信前の確認を人が持つ
- 契約書の条項確認:ひな形と審査基準を根拠に差分を指摘する。可否の判断は法務が持つ
- 議事録の要約:音声や文字起こしを根拠にまとめる。決定事項の確定は会議の責任者が持つ
- 最終判断・交渉:責任を伴い、文書に答えがない。待っても解決しない側なので人が持つ
判定の軸そのものは、AI導入の進め方の判定5項目と、AIエージェントとはの記事の判定基準で全体を示しています。中間に位置する業務の置き換え順は、3年で変わる可能性があると見ていて、断定はしません。
よく見るパターンとしては、製造業やサービス業で規程照会から始め、問い合わせ一次回答へ広げる流れが多いです。匿名の自社支援記録で第三者未検証です。企業の例はAIエージェントの導入企業で紹介します。
AIエージェントにRAGを組み込む手順:範囲決め→文書整備→構築→接続→評価
任せる業務を1つ決め、文書を整えてから小さく繋ぐ順で進めます。つまずく原因の多くは文書の整備不足なので、RAGの検索精度を先に確認し、ツール接続は最後に回します。
図は、範囲を決める:任せる業務を1つ、文書を整える:正本を1か所に、RAGを作る:検索精度を確認、ツールを繋ぐ:手順を任せる、評価する:誤答率を測るの5工程です。前の工程を飛ばすと、後の工程で手戻りが出ます。

- 範囲を決める:任せる業務を1つ。規程照会など、文書に根拠があり誤答を検証しやすい業務を選ぶ
- 文書を整える:正本を1か所に。古い版を退避し、更新の担当と置き場所を決める
- RAGを作る:検索精度を確認。質問と正解の対を用意し、該当文書を引けるかを先に見る
- ツールを繋ぐ:手順を任せる。MCPかAPIで、申請の下書きなど1つの操作から小さく始める
- 評価する:誤答率を測る。実際の問いへの回答を人が点検し、誤りの原因を文書・検索・生成に分ける
範囲決めと文書整備の手順:正本を1か所にまとめる
範囲決めでは、業務の入口と出口を文で書き出します。「規程の該当条項を示す」までか、「申請の下書きを作る」までかで、必要な接続が変わります。
文書整備は、散らばった規程や手順書を集め、正本を1か所に置く作業です。同じ内容の古い版が残っていると、RAGが引き当てる文書がぶれて精度が落ちます。更新時に正本を差し替える担当を決めておくと、運用が崩れにくくなります。
RAG構築とツール接続の手順:Q&A形式で検索精度を先に確認する
RAG構築では、想定する質問と正解となる文書の対を用意し、検索で該当文書を引けるかを確認します。生成の良し悪しを見る前に、検索が正しいかを見るのが順序です。検索が外れていれば、文書の分割の仕方や表現の揺れを直します。
ツール接続は、MCPかAPIで1つの操作から始めます。申請の下書きを作るところまでにして、送信は人が行う形にすると、誤動作の影響を抑えられます。
評価の回し方:誤答を人が点検して原因を分ける
評価は、実際の問いに対する回答を人が点検し、誤答の原因を分類する作業です。原因が文書にあるのか、検索にあるのか、生成にあるのかを分けると、直す場所が定まります。点検した問いは、次の検索精度の確認に使い回せます。
技術的な作り方は、AIエージェントの作り方とAIエージェント開発で扱っています。
導入時の課題と依頼先の選び方:内製・外注・伴走
つまずきは文書とデータの品質に集中し、初期は伴走が向きます。検索上位の解説が挙げる課題は、既存システムとの統合、データ品質が精度に直結すること、コストの最適化、セキュリティと権限管理の4つです。
導入時の課題と注意点:データ品質・統合・権限管理
- 既存システムとの統合:規程の置き場所、申請システム、認証基盤がばらばらだと接続の手間が増える。MCPかAPIで繋ぐ先を絞る
- データ品質が精度に直結:文書の重複・古い版・表現の揺れが、そのまま誤答になる。整備を先に行う
- コスト最適化:検索の回数と生成の長さで費用が変わる。範囲を絞り、検証の回数に上限を置く
- セキュリティと権限管理:人事や契約の文書は、閲覧できる人を限定する。RAGの検索結果にも同じ権限を効かせる
私たちは、文書整備と権限設計を「入場券」と呼んでいます。どこに頼んでも必須で、ここで差は付きません。差が付くのは業務の切り分けと評価の設計で、ここを社内に残せるかが進め方を選ぶ基準になります。
内製・外注・伴走の比較:知見をどこに残すか
図は、立ち上げ、社内に残る知見、初期の負担、向く会社の4行を、内製/外注/伴走の3列で比べたものです。伴走は、立ち上げの速さと社内に残る知見を両立しやすい形です。

- 立ち上げ:内製は遅い、外注は速い、伴走は速い。社内に経験者がいない段階では、内製だけだと時間がかかる
- 社内に残る知見:内製は多い、外注は少ない、伴走は多い。評価の設計と文書整備の判断が社内に残るかで差が出る
- 初期の負担:内製は人手、外注は費用、伴走は両方少し。担当者の時間と外部の支援を分け合う
- 向く会社:内製は技術者あり、外注は運用も任せる、伴走は自走したい。将来の運用主体で選ぶ
依頼先の選び方の基準:評価の設計を一緒に作れるか
依頼先を選ぶ基準は、文書整備から評価の設計まで一緒に作り、型を社内に渡せるかです。構築だけで終わる相手だと、文書が更新されたときに精度が落ちても直せません。私たちはこの型作りを業務のAI化支援として提供しています。
導入全体の進め方は、AIエージェント導入の進め方にまとめています。
AIエージェントとRAGに関するよくある質問
関連して検索されやすい疑問に、1問1答で答えます。
AIエージェントとRAGの違いは?
RAGは、社内文書などを検索して根拠を取り、その内容を基に答えを生成する方法です。AIエージェントは、目的に向けて手順を決め、ツールを呼び出して実行するAIです。RAGが「何を根拠に答えるか」、AIエージェントが「どう進めるか」を担い、対立せず補い合います。
AIエージェントがあればRAGはいらない?
いらなくなりません。AIエージェントは手順を決められますが、自社の規程や最新の社内情報を自分で持ってはいないので、根拠はRAGから取る必要があります。先にRAGを作っておけば、後からAIエージェントを足しても検索先としてそのまま使えるので、無駄にはなりません。
MCPとRAGはどう違う?併用できる?
MCPは、AIアプリを外部のデータやツールに繋ぐ接続の規格です。RAGは、繋いだ先から根拠を取って答える方法です。層が違うので併用できます。社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先に使う構成が、RAGとMCPを組み合わせた典型です。
Microsoft CopilotやGeminiでもRAGやAIエージェントは使える?
使えます。2026年10月時点で、Microsoft 365 Copilotは組織内のデータを参照して答える設計で、Geminiも接続した情報源を根拠に答えられます。製品内で完結するRAGと考えると掴みやすいです。詳しくはCopilot AIエージェントとGemini AIエージェントで扱っています。
RAG・AIエージェントの入門はどこから学べばいい?
LLMの限界、RAGの検索と生成、AIエージェントの計画と実行の順に学ぶと、積み上げの関係が掴めます。書籍を読む前に、自社の規程を1つ選び、質問と正解の対を作ってみると理解が早まります。作り方の手順は、AIエージェントの作り方の記事にまとめています。
まとめ:RAGで根拠を持たせ、エージェントに手順を任せる
RAGで根拠を持たせ、AIエージェントに手順を任せるのが答えです。両者は補い合う関係で、文書に根拠がある業務から任せると崩れにくくなります。
結論の再確認:補い合う関係とは
図は冒頭と同じ、役割・強み・弱み・向く用途をRAG/AIエージェント/組み合わせで比べたものです。根拠を探すRAGと手順を決めるAIエージェントを合わせると、根拠付き実行になります。

- 役割:根拠を探すRAGと、手順を決めるAIエージェントで、根拠付き実行を作る
- 強み:正確さと自律性を両方持てる
- 弱み:判断しない、根拠が薄い、設計が要るの3つを、組み合わせと設計で補う
- 向く用途:文書照会と定型業務から始め、社内業務全般へ広げる
次の一手:任せる業務を1つ決め、文書を集める手順
次の一手は、任せてよい業務を1つ決め、その業務の文書を1か所に集めることです。規程照会や問い合わせ一次回答のように、正本があり誤答を検証しやすい業務が候補になります。
どの業務から置き換えられるかを見極めたい場合は、AIおきかえくんで無料で診断できます。製品やツールの違いはAIエージェントの比較にまとめています。



