---
title: "AIエージェントとRAGとは｜違い・仕組み・組み合わせ方"
description: "AIエージェントとRAGは役割が違い、組み合わせて使うものです。LLMとの関係、RAGが必要な理由、検索→思考→生成→検証の仕組み、MCPとの違い、任せてよい業務の判定、導入手順と依頼先の選び方まで、図解で整理します。"
canonical: https://curumi.co.jp/blog/ai-agent-rag
date: 2026-11-16T05:35:18.830Z
---

# AIエージェントとRAGとは｜違い・仕組み・組み合わせ方

## AIエージェントとRAGとは？結論は「役割が違い、組み合わせて使う」

AIエージェントとRAGは役割が違い、組み合わせて使う関係です。RAG（検索拡張生成）は答えの根拠となる知識を担い、AIエージェントは手順を決めて実行する部分を担います。対立する技術ではなく、補い合う技術です。

この記事は、社内文書を使ったAI活用を検討する情シス・DX担当や経営企画の方に向けて書いています。技術者向けの実装解説ではなく、導入判断に必要な範囲で仕組みと進め方を整理します。AIエージェントそのものの全体像は、[AIエージェントとは](/blog/ai-agent)にまとめています。

### RAGとAIエージェントの役割の違いとは

図は、役割・強み・弱み・向く用途の4行を、RAG／AIエージェント／組み合わせの3列で比べたものです。RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行になります。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig1.webp" alt="RAGとAIエージェントと両者の組み合わせを、役割・強み・弱み・向く用途の4行で比べた表。RAGは根拠を探し、エージェントは手順を決め、組み合わせると根拠付きで実行できる。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>RAGは答えの根拠、AIエージェントは手順と実行を担う。どちらか一方ではなく、組み合わせることで社内業務に使える形になる。</figcaption></figure>

- 役割：RAGは根拠を探す、AIエージェントは手順を決める、組み合わせると根拠付き実行ができる
- 強み：RAGは正確さ、AIエージェントは自律性、組み合わせれば両方を得られる
- 弱み：RAGは判断しない、AIエージェントは根拠が薄い、組み合わせには設計が要る
- 向く用途：RAGは文書照会、AIエージェントは定型業務、組み合わせは社内業務全般

### どちらを選ぶかの判断基準

判断の軸は「答えに根拠が要るか」と「手順を任せたいか」の2つです。根拠だけ要るならRAG、決まった手順を回すだけならAIエージェント、社内文書を根拠に手順まで任せたいなら両方です。

2026年10月時点で、社内文書を使うAI活用の多くは「規程や手順書を引いて答え、必要な処理まで進める」ことを求めます。この要望は片方では満たせないので、組み合わせを前提に設計するのが近道です。

## LLM・RAG・AIエージェントの違い：何を足すと何ができるか

LLMが土台で、RAGとAIエージェントはその上に積む機能です。LLM（大規模言語モデル）は言葉を生成し、RAGで社内情報の参照を足し、AIエージェントで手順を決めて実行する力を足します。何を足すと何ができるかで整理すると、違いが掴めます。

図は、LLM：言葉を生成する、RAG：社内情報を参照、AIエージェント：手順を決めて実行の3段を積み上げた形です。上に行くほど、業務で使える範囲が広がります。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig2.webp" alt="LLMを土台に、RAGで社内情報の参照という知識を足し、AIエージェントで手順を決めて実行する行動を足す、3段の積み上げを示した工程図。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>LLMだけでは学習時点の一般知識で答える。RAGで自社の情報を足し、エージェントで手順と実行を足すと、業務に使える。</figcaption></figure>

- LLM：言葉を生成する。学習時点の一般知識で答えるので、自社の規程や最新の情報は知らない
- RAG：社内情報を参照。質問に関連する文書を検索し、その内容を根拠に答えを作る
- AIエージェント：手順を決めて実行。目的に向けて何を調べ、どのツールを使うかを自分で決める

### RAG（検索拡張生成）とは

RAGは、LLMに外部の知識を検索して渡し、その内容を根拠に答えを生成する仕組みです。社内文書をベクトル（意味の近さを数値で表した形式）に変換して保存し、質問に近い文書を引き当てます。LLMの再学習（ファインチューニング）をせずに、自社固有の情報で答えられるのが利点です。

IBMは、標準のRAGパイプラインを検索コンポーネントと生成コンポーネントの2つで説明しています。検索の精度がそのまま答えの精度を決めるので、文書の整備が品質を左右します。

### AIエージェントとは

AIエージェントは、目的を与えると手順を自分で決め、ツールを呼び出して実行するAIです。検索・計算・社内システムへの入力などを、状況に応じて選びます。チャットボットが1問1答で終わるのに対し、複数の手順を順に進められる点が違います。

呼び方の違い（エージェント型AI・エージェンティックAIなど）は、[AIエージェントとエージェンティックAIの違い](/blog/ai-agent-vs-agentic)で整理しています。

### 従来RAGとエージェント型RAGの違い

従来RAGは、質問を受けて1回検索し、その結果から答えを生成して終わります。エージェント型RAG（Agentic RAG）は、AIエージェントが検索の要否や検索先を判断し、足りなければ検索をやり直します。図の中では「エージェント型」と短く表記しています。

経費精算の規程を照会する例で、答え方の差を比べます。

| 問い：出張の宿泊費はどこまで精算できますか | 答え方 |
| --- | --- |
| RAGだけ | 旅費規程の該当条項を引き、上限と条件を根拠付きで示す。申請は進めない |
| エージェントだけ | 一般的な慣行で答えがちで、自社の規程に合わない。申請画面への入力は進められる |
| 両方 | 規程を根拠に上限を答え、条件を満たすか確認したうえで申請の下書きまで作る |

> 関連記事: [エージェンティックAIとAIエージェントの違い｜5軸比較と使い分け](/blog/agentic-ai-vs-agent)

## AIエージェントにRAGが必要な理由：誤情報・正確性・透明性

AIエージェント単体では、根拠のない推測で答えを補ってしまうからです。検索上位の解説が共通して挙げる課題は、間違った情報の補完、データの正確性が保証されない、判断基準が不透明の3つです。RAGは、社内文書に根拠を置くことで、この3つを同時に改善します。

図は、推測で補完していた部分を、根拠付き回答に置き換える流れを示します。穴埋めの材料を、LLMの記憶から社内文書に切り替えるのがRAGの役割です。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig3.webp" alt="RAGがない場合はAIエージェントが社内ルールを知らずに推測で穴埋めして誤答するが、RAGを入れると社内文書を出典として示しながら答える、という前後比較。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>AIエージェント単体の課題である誤情報・正確性・透明性の3点は、RAGで社内文書に根拠を置くことで同時に改善する。</figcaption></figure>

### 誤情報：間違った情報の補完を防ぐ

LLMは、知らないことを聞かれても、それらしい文章を作れます。社内規程にない手続きを、一般的な慣行から推測で補完してしまうのが誤情報の正体です。RAGがあれば、まず社内文書を検索し、該当する記述を根拠に答えるので、推測の入る余地が減ります。

該当する文書が見つからないときは「見つからない」と返す設計にできます。答えられない問いに答えないことも、誤情報対策の一部です。

### 正確性：最新の社内情報を取得する

LLMの知識は学習時点で止まっています。規程の改定や担当の変更は反映されないので、AIエージェントが古い情報で手順を進める恐れがあります。RAGは検索のたびに最新の文書を取得するので、更新した文書を置き換えるだけで答えが追いつきます。

正確性は、文書の正本が1か所にある前提で成り立ちます。古い版と新しい版が混在すると、RAGはどちらも引いてしまい、精度が落ちます。

### 透明性：出典を示して判断基準を見せる

AIエージェントが何を根拠に判断したかは、外からは見えにくいものです。RAGは答えと一緒に参照した文書と箇所を示せるので、人が検証できます。出典を示せる答えは、担当者が上長や顧客に説明する場面でも使えます。

## AIエージェント×RAGの仕組み：検索→思考→生成→検証とMCPの役割

エージェント型RAGは、計画・検索・生成・検証の順に動きます。従来RAGが検索と生成だけだったところに、前後へ計画と検証を足した形です。MCP（Model Context Protocol、AIと外部ツールを繋ぐ共通規格）は、このうち検索先に繋ぐ部分で使われます。

図は、計画：問いを分解する、検索：文書・DBを引く、生成：根拠から回答、検証：不足なら再検索の4工程です。検証で足りないと判断すれば、計画か検索に戻ります。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig4.webp" alt="エージェント型RAGの4工程。問いを分解して検索先を決める計画、文書やデータベースを引く検索、根拠から答える生成、不足があれば再検索する検証を順に示した工程図。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>従来RAGは検索して生成するだけだが、エージェント型は計画と検証が加わり、足りなければ自分で検索をやり直す。MCPは検索先に繋ぐ規格として使われる（2026年10月時点）。</figcaption></figure>

- 計画：問いを分解する。「旅費規程の上限と、今回の申請が条件を満たすか」のように、調べる単位に分ける
- 検索：文書・DBを引く。分解した問いごとに、規程の文書や申請データベースなど適した検索先を選ぶ
- 生成：根拠から回答。取得した文書を根拠に答えを組み立て、出典を添える
- 検証：不足なら再検索。根拠が足りない、矛盾があると判断したら、条件を変えて検索をやり直す

### 代表的な構成パターンの違い：ルーティング・クエリ計画・ReAct・計画と実行

エージェント型RAGには、いくつかの型があります。Salesforceの解説でも紹介されている代表的なものを短く挙げます。

- ルーティング：質問の内容に応じて、規程の文書・顧客データベース・Web検索など最適な検索先に振り分ける
- クエリ計画：複雑な質問を複数の小さな問いに分解し、それぞれ検索して統合する
- ReAct：推論（Reason）と行動（Act）を交互に繰り返し、検索結果を見ながら次の手を決める
- 計画と実行：先に全体の手順を立て、その順に実行し、結果を見て計画を修正する

複数のエージェントで分担する構成は、[マルチAIエージェント](/blog/multi-ai-agent)で扱っています。

### MCPとRAGの違い：接続の規格と根拠を取る方法

MCPは外部ツールやデータに繋ぐ「接続の規格」、RAGは繋いだ先から「根拠を取って答える方法」です。層が違うので競合せず、むしろ組み合わせて使います。MCP公式は、MCPをAIアプリにとってのUSB-Cポートに例えています。

2026年10月時点では、社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先として使う構成が一般的です。RAGをMCPで繋ぐ、と考えると関係が掴みやすくなります。

エージェント型RAGの定義と構成要素は、IBMの解説が一次資料として参照できます（[IBM「エージェント型RAGとは」](https://www.ibm.com/jp-ja/think/topics/agentic-rag)）。MCPの仕様と対応範囲は公式サイトに整理されています（[Model Context Protocol](https://modelcontextprotocol.io/)）。

## AIエージェント×RAGでできること：社内ナレッジ・問い合わせ・法務

文書に根拠がある照会や一次回答から任せるのが安全です。私たち株式会社くるみは、AIの弱点を「待てば解決する側」と「待っても解決しない側」に分けて考えています。精度や速度は時間が解決しますが、責任を伴う最終判断は待っても解決しないので人が持ちます。

### 社内ナレッジ検索・問い合わせ一次回答：定型の照会業務の事例

社内ナレッジ検索は、規程・手順書・FAQを根拠に答える、RAGの基本の使い道です。AIエージェントを組み合わせると、該当部署への取り次ぎや申請の下書きまで進められます。

カスタマーサポートの一次回答も同じ構造です。製品マニュアルや過去の対応記録を根拠に回答案を作り、人が確認して送る形から始めると崩れにくくなります。

### 法務・契約書の確認と調査レポート作成：根拠の提示が要る業務の事例

契約書の条項確認は、自社の契約ひな形や審査基準を根拠に、差分や抜けを指摘する使い方です。最終的な可否は法務担当が判断し、AIは根拠の提示と論点の整理を担います。

調査レポート作成は、社内外の資料を検索して集め、出典付きでまとめる業務です。計画と検証を回すエージェント型RAGが向く領域で、人は結論の妥当性を確認します。

### どこから任せるかの判定基準

図は、規程・FAQの照会、問い合わせ一次回答、契約書の条項確認、議事録の要約、最終判断・交渉の5つを、任せやすい順に並べたものです。上ほど文書に根拠があり、下ほど責任を伴います。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig5.webp" alt="AIエージェントとRAGに任せる候補となる5つの業務を並べ、根拠が文書にあるか、待てば精度が上がる種類の弱点かという2つの軸で任せる順を判定する図。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>精度や速度のように時間が解決する弱点なら任せてよい。責任を伴う最終判断は待っても解決しないので人が持つ。判定表の全体はAI導入の記事で。</figcaption></figure>

- 規程・FAQの照会：正本の文書に答えがあり、誤答も人がすぐ検証できる。最初に任せる業務
- 問い合わせ一次回答：マニュアルと対応記録を根拠に回答案を作る。送信前の確認を人が持つ
- 契約書の条項確認：ひな形と審査基準を根拠に差分を指摘する。可否の判断は法務が持つ
- 議事録の要約：音声や文字起こしを根拠にまとめる。決定事項の確定は会議の責任者が持つ
- 最終判断・交渉：責任を伴い、文書に答えがない。待っても解決しない側なので人が持つ

判定の軸そのものは、[AI導入の進め方](/blog/ai-adoption)の判定5項目と、AIエージェントとはの記事の判定基準で全体を示しています。中間に位置する業務の置き換え順は、3年で変わる可能性があると見ていて、断定はしません。

よく見るパターンとしては、製造業やサービス業で規程照会から始め、問い合わせ一次回答へ広げる流れが多いです。匿名の自社支援記録で第三者未検証です。企業の例は[AIエージェントの導入企業](/blog/ai-agent-companies)で紹介します。

## AIエージェントにRAGを組み込む手順：範囲決め→文書整備→構築→接続→評価

任せる業務を1つ決め、文書を整えてから小さく繋ぐ順で進めます。つまずく原因の多くは文書の整備不足なので、RAGの検索精度を先に確認し、ツール接続は最後に回します。

図は、範囲を決める：任せる業務を1つ、文書を整える：正本を1か所に、RAGを作る：検索精度を確認、ツールを繋ぐ：手順を任せる、評価する：誤答率を測るの5工程です。前の工程を飛ばすと、後の工程で手戻りが出ます。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig6.webp" alt="AIエージェントにRAGを組み込む5工程。任せる業務を1つ決め、文書の正本を1か所に整え、Q&amp;A形式でRAGの検索精度を確認し、MCPやAPIでツールを繋ぎ、誤答を人が点検して評価する。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>つまずく原因の多くは文書の整備不足にある。RAGの検索精度を先に確認し、ツール接続は最後に小さく始める。</figcaption></figure>

- 範囲を決める：任せる業務を1つ。規程照会など、文書に根拠があり誤答を検証しやすい業務を選ぶ
- 文書を整える：正本を1か所に。古い版を退避し、更新の担当と置き場所を決める
- RAGを作る：検索精度を確認。質問と正解の対を用意し、該当文書を引けるかを先に見る
- ツールを繋ぐ：手順を任せる。MCPかAPIで、申請の下書きなど1つの操作から小さく始める
- 評価する：誤答率を測る。実際の問いへの回答を人が点検し、誤りの原因を文書・検索・生成に分ける

### 範囲決めと文書整備の手順：正本を1か所にまとめる

範囲決めでは、業務の入口と出口を文で書き出します。「規程の該当条項を示す」までか、「申請の下書きを作る」までかで、必要な接続が変わります。

文書整備は、散らばった規程や手順書を集め、正本を1か所に置く作業です。同じ内容の古い版が残っていると、RAGが引き当てる文書がぶれて精度が落ちます。更新時に正本を差し替える担当を決めておくと、運用が崩れにくくなります。

### RAG構築とツール接続の手順：Q&A形式で検索精度を先に確認する

RAG構築では、想定する質問と正解となる文書の対を用意し、検索で該当文書を引けるかを確認します。生成の良し悪しを見る前に、検索が正しいかを見るのが順序です。検索が外れていれば、文書の分割の仕方や表現の揺れを直します。

ツール接続は、MCPかAPIで1つの操作から始めます。申請の下書きを作るところまでにして、送信は人が行う形にすると、誤動作の影響を抑えられます。

### 評価の回し方：誤答を人が点検して原因を分ける

評価は、実際の問いに対する回答を人が点検し、誤答の原因を分類する作業です。原因が文書にあるのか、検索にあるのか、生成にあるのかを分けると、直す場所が定まります。点検した問いは、次の検索精度の確認に使い回せます。

技術的な作り方は、[AIエージェントの作り方](/blog/ai-agent-how-to-build)と[AIエージェント開発](/blog/ai-agent-development)で扱っています。

## 導入時の課題と依頼先の選び方：内製・外注・伴走

つまずきは文書とデータの品質に集中し、初期は伴走が向きます。検索上位の解説が挙げる課題は、既存システムとの統合、データ品質が精度に直結すること、コストの最適化、セキュリティと権限管理の4つです。

### 導入時の課題と注意点：データ品質・統合・権限管理

- 既存システムとの統合：規程の置き場所、申請システム、認証基盤がばらばらだと接続の手間が増える。MCPかAPIで繋ぐ先を絞る
- データ品質が精度に直結：文書の重複・古い版・表現の揺れが、そのまま誤答になる。整備を先に行う
- コスト最適化：検索の回数と生成の長さで費用が変わる。範囲を絞り、検証の回数に上限を置く
- セキュリティと権限管理：人事や契約の文書は、閲覧できる人を限定する。RAGの検索結果にも同じ権限を効かせる

私たちは、文書整備と権限設計を「入場券」と呼んでいます。どこに頼んでも必須で、ここで差は付きません。差が付くのは業務の切り分けと評価の設計で、ここを社内に残せるかが進め方を選ぶ基準になります。

### 内製・外注・伴走の比較：知見をどこに残すか

図は、立ち上げ、社内に残る知見、初期の負担、向く会社の4行を、内製／外注／伴走の3列で比べたものです。伴走は、立ち上げの速さと社内に残る知見を両立しやすい形です。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig7.webp" alt="AIエージェントとRAGの導入を内製・外注・伴走で進める場合を、立ち上げの速さ、社内に残る知見、初期の負担、向く会社の4行で比べた表。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>文書整備と権限設計はどの進め方でも必須の入場券。業務の切り分けと評価の設計が差の付く条件で、伴走はここを社内に残しやすい。</figcaption></figure>

- 立ち上げ：内製は遅い、外注は速い、伴走は速い。社内に経験者がいない段階では、内製だけだと時間がかかる
- 社内に残る知見：内製は多い、外注は少ない、伴走は多い。評価の設計と文書整備の判断が社内に残るかで差が出る
- 初期の負担：内製は人手、外注は費用、伴走は両方少し。担当者の時間と外部の支援を分け合う
- 向く会社：内製は技術者あり、外注は運用も任せる、伴走は自走したい。将来の運用主体で選ぶ

### 依頼先の選び方の基準：評価の設計を一緒に作れるか

依頼先を選ぶ基準は、文書整備から評価の設計まで一緒に作り、型を社内に渡せるかです。構築だけで終わる相手だと、文書が更新されたときに精度が落ちても直せません。私たちはこの型作りを[業務のAI化支援](/solutions/operations)として提供しています。

導入全体の進め方は、[AIエージェント導入の進め方](/blog/ai-agent-adoption)にまとめています。

## AIエージェントとRAGに関するよくある質問

関連して検索されやすい疑問に、1問1答で答えます。

### AIエージェントとRAGの違いは？

RAGは、社内文書などを検索して根拠を取り、その内容を基に答えを生成する方法です。AIエージェントは、目的に向けて手順を決め、ツールを呼び出して実行するAIです。RAGが「何を根拠に答えるか」、AIエージェントが「どう進めるか」を担い、対立せず補い合います。

### AIエージェントがあればRAGはいらない？

いらなくなりません。AIエージェントは手順を決められますが、自社の規程や最新の社内情報を自分で持ってはいないので、根拠はRAGから取る必要があります。先にRAGを作っておけば、後からAIエージェントを足しても検索先としてそのまま使えるので、無駄にはなりません。

### MCPとRAGはどう違う？併用できる？

MCPは、AIアプリを外部のデータやツールに繋ぐ接続の規格です。RAGは、繋いだ先から根拠を取って答える方法です。層が違うので併用できます。社内文書の検索サーバーをMCPで公開し、AIエージェントがそこを検索先に使う構成が、RAGとMCPを組み合わせた典型です。

### Microsoft CopilotやGeminiでもRAGやAIエージェントは使える？

使えます。2026年10月時点で、Microsoft 365 Copilotは組織内のデータを参照して答える設計で、Geminiも接続した情報源を根拠に答えられます。製品内で完結するRAGと考えると掴みやすいです。詳しくは[Copilot AIエージェント](/blog/copilot-ai-agent)と[Gemini AIエージェント](/blog/gemini-ai-agent)で扱っています。

### RAG・AIエージェントの入門はどこから学べばいい？

LLMの限界、RAGの検索と生成、AIエージェントの計画と実行の順に学ぶと、積み上げの関係が掴めます。書籍を読む前に、自社の規程を1つ選び、質問と正解の対を作ってみると理解が早まります。作り方の手順は、AIエージェントの作り方の記事にまとめています。

## まとめ：RAGで根拠を持たせ、エージェントに手順を任せる

RAGで根拠を持たせ、AIエージェントに手順を任せるのが答えです。両者は補い合う関係で、文書に根拠がある業務から任せると崩れにくくなります。

### 結論の再確認：補い合う関係とは

図は冒頭と同じ、役割・強み・弱み・向く用途をRAG／AIエージェント／組み合わせで比べたものです。根拠を探すRAGと手順を決めるAIエージェントを合わせると、根拠付き実行になります。

<figure class="article-figure"><img src="https://assets.curumi.co.jp/articles/ai-agent-rag/fig1.webp" alt="RAGとAIエージェントと両者の組み合わせを、役割・強み・弱み・向く用途の4行で比べた表。RAGは根拠を探し、エージェントは手順を決め、組み合わせると根拠付きで実行できる。" width="1200" height="800" loading="lazy" decoding="async"><figcaption>RAGは答えの根拠、AIエージェントは手順と実行を担う。どちらか一方ではなく、組み合わせることで社内業務に使える形になる。</figcaption></figure>

- 役割：根拠を探すRAGと、手順を決めるAIエージェントで、根拠付き実行を作る
- 強み：正確さと自律性を両方持てる
- 弱み：判断しない、根拠が薄い、設計が要るの3つを、組み合わせと設計で補う
- 向く用途：文書照会と定型業務から始め、社内業務全般へ広げる

### 次の一手：任せる業務を1つ決め、文書を集める手順

次の一手は、任せてよい業務を1つ決め、その業務の文書を1か所に集めることです。規程照会や問い合わせ一次回答のように、正本があり誤答を検証しやすい業務が候補になります。

どの業務から置き換えられるかを見極めたい場合は、[AIおきかえくん](/okikaekun)で無料で診断できます。製品やツールの違いは[AIエージェントの比較](/blog/ai-agent-comparison)にまとめています。
