社内の資料をAIに答えさせるには？社内ナレッジ検索（RAG）の仕組みと進め方

社内の規程やマニュアル、過去の提案書などをAIに答えさせるには、**RAG（Retrieval-Augmented Generation、検索拡張生成）**という仕組みを使うのが一般的です。質問に関係する社内の資料を先に検索し、その内容をもとにAIが回答をつくるので、社内の情報に沿って、根拠となる資料を示しながら答えられます。

この記事では、情報システム部門や業務改革の担当者に向けて、社内ナレッジ検索の仕組みと、導入するときのポイントを解説します。

社内ナレッジ検索で何ができるのか

社内の規程・手続きの問い合わせ: 「出張の精算はどうすればよい？」に、規程を引いて答える
マニュアルや過去の対応の検索: 製品の仕様や、過去の問い合わせへの対応を探す
提案書・報告書の再利用: 似た案件の提案書や、過去の調査結果を探して要点をまとめる

これまでは、資料がどこにあるかを知っている人に聞くか、ファイルを一つずつ開いて探すしかありませんでした。社内ナレッジ検索を使うと、ふだんの言葉で質問するだけで、関係する資料と要点が返ってくるようになります。

なぜ「そのまま」の生成AIでは答えられないのか

ChatGPT などの生成AIは、公開されている大量の情報で学習していますが、あなたの会社の社内資料は知りません。社内のことを聞いても、答えられないか、もっともらしい誤りを答えてしまいます。

かといって、社内の資料でAIを学習し直すのは、費用も手間もかかり、資料が更新されるたびにやり直しが必要です。そこで、学習はさせずに、質問のたびに関係する資料を探してAIに渡すのがRAGの考え方です。

RAGの仕組み

RAGは、大きく次の流れで動きます。

資料を取り込む: 社内の文書を、検索しやすいように小さな単位に分けて保存する
検索する: 質問が来たら、意味の近い文書を探す
回答をつくる: 見つかった文書の内容をAIに渡し、それをもとに回答をつくらせる
根拠を示す: 回答と一緒に、参照した文書へのリンクを示す

検索には、キーワードの一致だけでなく、言葉の意味の近さで探す方法（ベクトル検索）を組み合わせることが多く、言い回しが違っても関係する文書を見つけられます。

正確さを保つための工夫

RAGでも、AIが誤った回答をすることはあります。業務で使うには、次のような工夫が必要です。

資料を整える: 古い版や重複した資料が混ざっていると、誤った回答の原因になる。取り込む資料の範囲と、最新版の管理を決める
根拠を必ず示す: 回答と一緒に参照した資料を示し、利用者が元の資料で確かめられるようにする
分からないときは分からないと答えさせる: 関係する資料が見つからないときは、推測で答えずに「見つからない」と答えるように指示する
使いながら直す: 利用者からの「役に立たなかった」の声や、回答できなかった質問を集め、資料や検索の設定を改善する

社内データを渡すときの注意

社内ナレッジ検索では、社内の資料をAIのサービスに渡すことになります。次の点を確かめておきます。

データの扱い: 利用するAIのサービスが、渡したデータを学習に使わないか、どこに保存されるか
アクセス権限: 人事情報や役員会の資料など、見られる人が限られた資料が、権限の無い人の回答に出てこないようにする
指示の乗っ取りへの対策: 取り込んだ文書の中に、AIへの指示に見える文章が紛れ込んでいると、AIがそれに従ってしまうことがある（プロンプトインジェクション）。取り込む資料の範囲を管理し、AIにできる操作を限定する

導入の進め方

対象を絞る: 問い合わせの多い業務（社内規程、製品のマニュアルなど）を一つ選ぶ
小さく試す: 対象の資料だけを取り込んだ試作で、回答の正確さと使い勝手を確かめる
設計する: データの保存場所、アクセス権限、既存のシステム（社内ポータルやチャット）との連携を決める
本番で使い始める: 利用者を限定して始め、声を集めながら広げる
育てる: 資料の追加と更新、回答の精度の改善を続ける

最初から全社のすべての資料を対象にすると、資料の整理だけで時間がかかります。問い合わせの多い一つの業務で効果を確かめてから広げるのが近道です。導入全体の進め方は「生成AIの導入は何から始める？」も参考にしてください。

よくある質問

どのような資料を取り込めますか？

Word・PDF・PowerPoint などの文書や、社内のWikiのページ、FAQなどを取り込めます。画像の中の文字や表は、読み取りの精度に注意が必要です。

既存の社内ポータルやチャットから使えますか？

使えます。社内ポータルや、Microsoft Teams・Slack などのチャットとつなぎ、使い慣れた画面から質問できる形にすることが多いです。

回答が間違っていたらどうなりますか？

参照した資料を必ず示すようにしておけば、利用者が元の資料で確かめられます。間違いが分かったら、資料の更新や検索の設定の見直しで改善します。

まとめ

社内の資料をAIに答えさせるには、資料を検索してから答えるRAGを使う
学習し直すのではなく、質問のたびに関係する資料をAIに渡す
資料を整え、根拠を示し、分からないときは分からないと答えさせる
データの扱い・アクセス権限・指示の乗っ取りへの対策を確かめる
問い合わせの多い一つの業務から小さく始める

エンハンスドでは、社内ナレッジ検索や問い合わせ対応など、業務の中でAIが働くシステムを、検証から本番運用まで開発しています（AIシステム開発）。

あわせて読みたい