社内の文書やマニュアルをAIに答えさせるには、AIに自社の資料を読ませてから答えさせる仕組み（RAGと呼ばれる）を使います。RAGとは「必要な資料を引き出してから答える」という、ちょうど人が調べてから回答する手順をAIが自動でおこなう仕組みです。いきなり大規模に作らず、よく聞かれる質問と元資料を一か所に集めるところから始めると、小さく試して確かめながら進められます。
Summary ／ この記事の要点
RAGは「必要な資料を引き出してから答える」仕組み。素のAIは自社の規程や手順を知らない。
始める前に「対象資料を絞る／最新版に揃える／見せてよい範囲を決める」の3つを整える。
誤答は必ず出る前提で、人が確認する工程を最初から仕組みに組み込む。
「自社のことを答えるAI」の正体
RAG（Retrieval-Augmented Generation）とは、質問を受けたAIが手元の資料の中から関連する部分を取り出し、その内容をもとに答えを作る仕組みのことです。頭文字はRetrieval（取り出す）、Augmented（補う）、Generation（文章を作る）で、取り出した資料で答えを補ってから文章にする、という意味です。専用のシステムを一から開発しなくても、クラウドのツールを使えば小さな規模から試せるものが増えています。
ChatGPTのような汎用AIは、インターネット上の大量のテキストを学習していますが、あなたの会社のマニュアルや規程、手順書の内容は持っていません。そのまま質問を投げると、それらしく見える回答が返ることはあっても、内容が自社の実情とずれていることがほとんどです。社内の文書をAIに読み込ませない限り、自社特有の決まりや手順を正確に答えることは期待できません。
RAGでは、AIが毎回の質問に対して「この資料のこの部分が関係する」と探してから答えます。すべての文書を丸ごと暗記させるわけではなく、必要な部分だけを都度取り出して使う仕組みのため、資料が増えても更新しやすい点が利点です。素のAIに聞き続けるのではなく、自社の資料を参照して答えてくれる状態を作ることが、社内活用の出発点になります。
RAG＝取り出して、補って、答える
Retrieval（取り出す）
質問に関連する資料の部分を手元から探し出す
Augmented（補う）
取り出した資料で答えの材料を補う
Generation（文章を作る）
補った内容をもとに答えの文章を作る
始める前に整える三つのこと
最初に、対象にする資料を絞ります。社内のすべての文書を一度に読み込もうとすると、準備だけで時間がかかって止まりがちです。「新入社員がよく聞くこと」「電話対応で繰り返し出る質問」など、実際に何度も聞かれている内容に絞ると、必要な資料は思ったより少なくなります。まずは典型的な質問に答えられる資料に限定して始めることをおすすめします。
次に、使う資料を最新の版に揃えます。古いマニュアルと改訂後の手順書が混在したまま読み込ませると、AIがどちらを参照するか判断できず、古い内容を正しいものとして答えてしまうことがあります。読み込ませる前に、ファイルの更新日を確認し、廃止された版や修正前の版は除いておきます。「何を使うか」と同時に「何を外すか」を決めておくことが大切です。
見せてよい範囲を事前に決めておきます。社内の資料の中には、役員向けの情報や人事に関する記録、取引先との守秘義務のある内容など、特定の人にしか見せてはいけないものも含まれることがあります。AIに読み込ませた資料の内容は、質問した人が引き出せる状態になります。「誰でも聞いてよい資料か」「部門内に限る内容か」「外部のアクセスはないか」を確認してから、ツールの選定と設定に進みます。
始める前に整える3つ
対象にする資料を絞る
何度も聞かれる質問に答えられる資料に限定して始める
最新の版に揃える
更新日を確認し、廃止・修正前の版は外しておく
見せてよい範囲を決める
誰でも聞いてよいか、部門内か、外部アクセスはないかを確認する
小さく作る四つの手順
手順は四つです。(1)実際によく聞かれる質問のリストを作り、その答えが書かれた社内資料を一か所に集める。(2)選んだツールにその資料を読み込ませ、試しに質問を投げて動作を確かめる。(3)担当者二〜三人で一週間ほど使い、返ってくる答えが業務で役に立つか・明らかな間違いが多くないかを確かめる。(4)気づいた「この資料が足りない」「ここがずれている」をまとめ、資料の追加や修正、除外を判断する。
ツールを選ぶときは、機能だけでなく、データがどこに保存されるか、利用規約はどうなっているか、料金の仕組みはどうかを比べてから決めてください。社内向けのAIチャットを提供しているクラウドサービスや、既存のグループウェアに組み込まれているものを選ぶと、設定の手間が少なく始めやすいです。具体的なツールの仕様や使い方は、各サービスの公式ドキュメントや一次情報で必ず確認することをおすすめします。
精度の確認は、返ってきた答えを担当者が実際に読んで判断します。「それらしく見えるが内容が違う」「関係のない資料を引いてしまっている」「元資料を示さずに答えている」など、問題のパターンが分かると、どこを直せばよいかの見当がつきます。この段階で全問正解を求めず、「概ね合っている、ただし人が必ず確認する」を前提に運用するほうが現実的です。
小さく作る4手順
質問と資料を一か所に集める
よく聞かれる質問と、その答えが書かれた社内資料を集める
ツールに読み込ませて試す
試しに質問を投げて動作を確かめる
担当者2〜3人で1週間使う
業務で役に立つか、明らかな間違いが多くないかを確かめる
追加・修正・除外を判断
足りない資料やずれを見つけ、直していく
全問正解を求めない
ヒント
全問正解を求めない
この段階で全問正解を目指すより、「概ね合っている、ただし人が必ず確認する」を前提に運用するほうが現実的です。
よくあるつまずきと対策
古い資料が混ざると、AIが廃止された手順や変更前の内容を正しいものとして答えてしまいます。対策は、読み込ませる資料を置く場所を一か所に決め、最新版だけを置くルールを最初に作ることです。更新するたびに「どこかに置けばいい」という状態では、気づかないうちに古い版が残ります。管理場所と更新手順を文書化しておくと、後からの混乱を防げます。
機密情報の境界が曖昧なまま進めると、意図せず見せてはいけない内容が回答の中に出てしまうリスクがあります。読み込ませる資料を選ぶ段階で、一つひとつ「誰が読んでよいか」を確認します。判断が難しい資料はいったん除外して後で検討するほうが、先を急ぐより安全です。ツールによっては閲覧できるグループを制限できるものもあるため、権限設定の仕組みを導入前に確認しておきます。
「それらしい誤答」の見落としが、最もよくあるつまずきです。AIは手元の資料に答えが見つからない場合でも、もっともらしい内容を作って返すことがあります。返ってきた答えに元の資料の該当箇所を示させる設定にすることで、作り話に気づきやすくなります。誤答ゼロを目指すより、人が内容を確認する工程を最初から仕組みに組み込んでおくことが着実な対策です。また、資料の更新が止まると時間とともに回答の質が下がっていくため、ツールを運用する担当者と資料を最新に保つ担当者を最初から決めておくことをおすすめします。
よくあるつまずきと対策
| つまずき | 対策 |
|---|---|
| 古い資料が混ざる | 資料を置く場所を一か所に決め、最新版だけを置くルールを最初に作る |
| 機密情報の境界が曖昧 | 資料を選ぶ段階で一つずつ「誰が読んでよいか」を確認し、迷うものは除外する |
| それらしい誤答を見落とす | 元資料の該当箇所を示させる設定にし、人が確認する工程を仕組みに組み込む |