社内の文書をAIで引けるようにする前に｜読ませる文書の仕分け、回答の根拠の出し方、使われているかの測り方

社内の規程や手順書、過去の提案書といった社内ナレッジを、生成AIで引けるようにする。この導入で先に決めるのは、道具ではなく文書の側です。どの文書を読ませ、どれを部署で分け、どれを外すか。答えに、どの文書のどの版のどこを根拠として示し、根拠が無いときにどう返すか。使い始めたあとに、何を記録して、どの数字を見るか。この三つは、Microsoft 365 の Copilot、Google の Gemini、自社で作る仕組みのどれを選んでも必要になる準備です。

社内の文書を引くAIは、質問に関係する箇所を先に文書から探し、その箇所を材料に答えを作ります。この仕組みは検索拡張生成（RAG）と呼ばれます（Amazon Bedrock ナレッジベースの仕組み）。総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」は、RAGの精度は使う情報に左右されるとし、情報の品質と更新の状況を定期的に確かめるよう求めています（別添 p.158）。また、Microsoft 365 の Copilot や Google Workspace の Gemini は、質問した人が開ける文書だけを材料にします（Microsoft、Google）。ファイルサーバーや SharePoint、Google ドライブの閲覧権限が、そのままAIの読む範囲になります。

この記事は、生成AIの業務への組み込みを支援している Aurant Technologies が、社内の規程やマニュアルを生成AIで引けるようにしたい総務・情報システム・品質保証の担当者向けに、文書の仕分け、答えの根拠の出し方、使われているかの測り方をまとめたものです。製品の動きは Microsoft・Google・AWS・Anthropic の説明で、国の考え方は総務省・経済産業省とデジタル庁の資料で、2026年9月30日に確かめました。製品の仕様は変わることがあるので、設定する前にリンク先の最新の記載を見てください。

AIの答えは、読ませた文書と、読める範囲で決まる

社内の文書を引くAIは、質問を受けると、まず読める文書の中から関係しそうな箇所を探し、見つかった箇所と質問をまとめて生成AIに渡して、答えを作らせます。文書は前もって文字として取り出し、探しやすい大きさに区切っておくのが一般的です（Amazon Bedrock ナレッジベースの仕組み）。Microsoft 365 の Copilot も、質問に関係する社内のデータを生成AIに渡して答えを作る流れ（グラウンディング）を説明しています（アプリケーション カード: Microsoft Copilot (組織向け)）。

そのため、答えが外れるときは、文書の側に原因があることがあります。たとえば次のような状態です。

• 同じ規程の古い版が、別のファイルとして残っている
• 同じ内容の手順書が、部署ごとに少しずつ違う形で置かれている
• スキャンしただけのPDFで、本文が文字として読めない
• 条番号や見出しが無く、答えの元になった箇所を示せない
• 承認前の案が、承認済みの文書と同じ場所に置かれている
• 閲覧権限が広すぎて見せたくない文書まで読まれる、または狭すぎて必要な文書が読めない

読める範囲は、製品の側で決まっています。Microsoft 365 の Copilot が答えに出すのは、使う人が少なくとも閲覧の権限を持っている組織のデータだけです（Microsoft Copilot のデータ、プライバシー、セキュリティ）。Google Workspace の Gemini も、使う人にアクセス権のある Workspace のコンテンツだけを材料にします（Google Workspace の生成 AI に関するプライバシー ハブ）。なお、Microsoft 365 で SharePoint や OneDrive の文書を自動で探して答えるのは、Microsoft 365 Copilot（Premium）のライセンスを持つ利用者です。Copilot Chat（Basic）などの利用者は、文書を添えて質問するか、組織のデータを使う従量課金のエージェントを使います（Microsoft Copilot の概要）。

Microsoft は、SharePoint での過剰な共有を減らし、使われていないサイトを片付けることで、Copilot が使うデータが整理され、答えの質が上がると説明しています（同じ概要）。文書の側を整える作業は、どの製品を選んでも答えの質に効きます。

課題の側からも見ておきます。情報処理推進機構（IPA）が2026年7月30日に公開した「DX動向2026」（調査は2026年4月中旬〜6月中旬、国内企業1,799社の有効回答）で、AIの導入・運用上の課題を尋ねた設問（回答1,770社、図表3-16）では、「専門人材が不足している」が50.1%で最も多く、「生成AIの効果やリスクに関する理解が不足している」が45.8%で続きました。「適切な利用を管理するためのルールや基準の作成が難しい」は39.7%、「入力した情報が漏えいするリスクがある」は31.0%、「データの形式や質にばらつきがある」は29.2%、「誤った回答を信じて業務に利用してしまう」は28.9%、「出力結果を検証せずに受け入れてしまう」は17.9%でした（DX動向2026）。読ませる文書の決まり、文書の質、答えの確かめ方は、この記事で扱う準備に当たります。

読ませる文書を、全社・部署・外すの三つに仕分ける

Microsoft 365 の Copilot で社内の文書を引かせる場合の、SharePoint の共有しすぎの整理とライセンスを渡す人の決め方は「Copilot 研修を買う前に、社内で決めること」で解説しています。

文書を集める前に、対象の文書を一覧にして仕分けます。全社の誰が読んでもよい文書、読む人を部署や役職で分ける文書、AIの読む範囲から外す文書の三つです。

文書の台帳を作る

仕分けには、文書ごとに次の欄を持つ台帳を使います。表計算のファイルで足ります。担当部署に確かめないと埋まらない欄は、空けたまま進めて、後で埋めます。

当社の整理

台帳を作ると、同じ規程が複数の場所にあること、担当部署が決まっていない文書、スキャンしただけのPDFが見つかります。これらは読ませる前に片付けます。

部署で分ける文書は、置き場所の閲覧権限で分ける

Microsoft 365 の Copilot と Google Workspace の Gemini は閲覧権限に従って読む範囲を決めるので、部署で分ける文書は、置き場所の権限を部署や役職のグループで付けておきます。全社に共有されたままのフォルダや、退職した人に付いたままの権限があれば、AIを入れる前に直します。ファイルサーバーからクラウドへ移す途中なら、権限の書き出しから試しの移行までの順番をWindows Server 2016のサポート終了に合わせて社内サーバーの業務を移す記事で扱っています。

Microsoft 365 では、Microsoft の説明によると、Copilot のライセンスに SharePoint 高度な管理が含まれています（基本的な展開ガイダンス）。そのデータ アクセス ガバナンス レポートで、過剰に共有されている可能性のあるサイトや、特定の利用者が開けるサイトの一覧を出せます（SharePoint の高度な管理の概要）。権限を見直している間は、制限付きコンテンツ検出を使うと、組織全体の検索と Copilot の答えで、特定のサイトの内容が見つからないように制限できます。ただし、これは見直しの間の一時的な措置として作られていて、権限そのものは変わらず、開ける人は直接開けます（SharePoint サイトとコンテンツの検出を制限する）。

Gemini Notebook（旧称 NotebookLM）のように、文書を選んでノートブックに入れる形では、ノートブックを共有された閲覧者は、中のすべての文書を読めます（Gemini Notebook でノートブックを作成する）。読む人が違う文書は、ノートブックを分けます。

自社で仕組みを作る場合は、元の置き場所の権限が自動で引き継がれるとは限りません。たとえば Azure AI Search は、組み込みのアクセス制御の仕組みを使えない場合の方法として、利用者やグループのIDを文書ごとに持たせて検索のときに絞り込むやり方を示していますが、このIDは単なる文字列として扱われます（セキュリティ フィルター パターン）。正しく付けて保つのは作る側の仕事です。権限をどう引き継ぐかは、見積もりの段階で作る会社に確かめます。

外す文書と、文書にして読ませないほうがよい情報

外すのは、次のような文書です。

• 古い版と、廃止した規程（次の節）
• 承認前の案や検討中のメモ。承認済みの文書と同じ範囲にあると、案の内容が答えの根拠になることがあります
• 人事評価、給与、健康に関わる記録など、個人の情報が中心の文書
• 取引先から預かった文書など、社外に出せない理由がある文書（後の節）
• 社外から買った規格書や書籍の写し。利用の条件を確かめるまで外します。Gemini Notebook のヘルプも、権利の無い文書を上げないよう注意しています（ノートブックの新しいソースを追加または検索する）

Google Workspace では、ダウンロード・コピー・印刷を止める設定（IRM）を付けたファイルを、Gemini が取得しないようにできます。同じ設定で、ドライブのファイルが Gemini Notebook に上げられるのも止められます（プライバシー ハブ）。人は開けるが、AIには読ませたくない文書に使えます。その代わり、対象の利用者はファイルのダウンロード・コピー・印刷もできなくなります。

在庫の数や受注の状態、顧客ごとの契約の中身のように、業務システムの中で毎日変わる情報は、書き出した文書を読ませると、書き出した時点の値で答えます。こうした情報は、文書にして読ませるより、AIからシステムに問い合わせる接続（MCPやAPI）で扱います。つなぎ方と権限の分け方は、当社のMCPの解説資料（ダウンロード）にまとめています。

同じ規程の古い版が残っているとき

規程を改定すると、古い版が別のファイルとして残りがちです。ファイル名に日付を付けて新しいファイルを作る、改定のたびにPDFを出し直す、メールに添付された写しを個人のフォルダに保存する、といった残り方です。どれもAIの読む範囲にあれば、古い版が答えの根拠になりえます。

AI事業者ガイドラインの利用者向けの解説は、RAGを使う場合は検索・参照するデータが新しく信頼できることに留意するよう求め、利用者がデータを用意する場合の手法として、データの最新性の確保を挙げています（別添 p.166・p.177）。

対策は、正本を一つに決めて、古い版を読む範囲の外に移すことです。

• 正本の置き場所を一つにし、改定では同じ文書を新しくする（新しいファイルを横に増やさない）
• 残す必要のある旧版は、担当部署だけが開ける場所へ移す
• 廃止した規程は、台帳に廃止した日を書いて外す
• 文書の冒頭に版と施行日を書き、答えにも出す（次の節）

品質の手順書のように改定の手順が決まっている文書は、その手順に「AIの読む範囲の差し替え」を一行足します。

写しを取り込む形では、写しも差し替える

元の置き場所を読む製品と、写しを取り込んで使う製品では、差し替えの手間が違います。Gemini Notebook は、ソースを、取り込んだ文書の写しか、自動で同期される版だと説明しています。Google ドライブから取り込んだ文書は数分ごとに同期され、ノートブックを開くと元の文書の変更が反映されます。手動で同期することもできます（ノートブックの新しいソースを追加または検索する）。ドライブ以外から上げたファイルは、改定のたびに差し替えるものとして扱います。

自社で作る仕組みで、文書を前もって区切って検索用の索引にしている場合は、差し替えた文書を取り込み直すまで、索引に残った古い内容が使われます。Amazon Bedrock のナレッジベースのように、文書に付けた属性（メタデータ）で検索の対象を絞れる仕組みもあります（Configure and customize queries and response generation）。「現行」「廃止」のような状態を属性に持たせ、現行の文書だけを探す作りにしておくと、履歴の確認のために旧版を索引に残す場合も、答えの根拠からは外せます。

答えに、根拠の文書と版と箇所を付ける

答えに根拠を添えると、読んだ人が元の文書を開いて確かめられます。AI事業者ガイドラインは、RAGの活用で、ハルシネーション（事実と違う内容の出力）の抑制や、出力の過程と根拠の透明性の向上が期待されるとしています（本編 p.15）。提供者向けの解説でも、外部の情報源を探して答えるときに出典や引用元を示せることを挙げています（別添 p.149）。デジタル庁のガイドブックも、検索結果から答えの文章を作る場合は、利用者が元の文章を確かめられるよう引用元を示すのが望ましいとしています（テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）付録8の図5、p.53〜54）。

根拠として添えるものは、次のとおりです。

製品ごとの根拠の出し方

Microsoft 365 の Copilot は、社内の文書をもとにした答えに、可能な場合は元の文書への参照を付けます。一方で、複数の文書をまとめるときに、元の文書に無い内容を答えに含めることがあるとも説明しています（アプリケーション カード）。参照が付いていても、大事な判断の前には元の文書を開いて確かめる、という決まりを利用者に伝えておきます。

Gemini Notebook は、答えの文中に引用を付けて、どのソースに基づくかを示します（Gemini Notebook の詳細）。

自社で作る場合は、出典を生成AIに文章で書かせるのではなく、仕組みの側で付けます。Amazon Bedrock のナレッジベースは、答えのどの部分がどの文書に基づくかを示す引用の情報を返します（RetrieveAndGenerate）。PDFの文書では、保存先と区切り方の条件を満たせば、ページ番号が属性として自動で付きます（クエリと応答の生成の設定）。Anthropic の Claude の引用機能は、PDFではページの範囲を返し、出典を文章で書かせるやり方と比べて、引用が渡した文書の中を正しく指すことが保証されるとしています（Citations）。どの形で根拠を返すかは、作る会社に確かめる項目です。

当社の社内規程AIチャットのデモ（架空の会社・規程で作ったもので、生成AIは呼び出していません）では、答えに文書名と条項を添える形と、根拠が見つからないときの返し方を画面で試せます。

箇所を示すために、文書の側で整えること

• 条番号や見出しを付ける。PDF以外の文書は、ページより条や見出しで箇所を示すほうが確かめやすくなります
• 版と施行日を、ファイル名だけでなく本文の冒頭にも書く。引用した一節と一緒に確かめられます
• スキャンしただけのPDFは、本文を選択・検索できるかを確かめ、できなければ文字にしてから読ませる
• 図や画像になっている文字は、根拠として示せないことがあります。Claude の引用機能は、PDFの中の画像を引用の対象にしていません（Citations）。大事な決まりは、本文の文章にも書きます
• 「別表のとおり」のように、ほかの文書を指す書き方には、その文書の名前と置き場所を添える

根拠が見つからないときは「見つからない」と返させる

社内の決まりは会社ごとに違います。読ませた文書に答えが無いときに生成AIが一般的な知識で答えを補うと、一般的な会社の決まりが、自社の規程であるかのように答えに出ることがあります。デジタル庁のガイドブックも、学習したデータに無い情報を尋ねると、根拠の無い答えを返すことがある例を挙げています（ガイドブック（α版）p.9）。

そこで、根拠が見つからないときは、決まった文面で「見つからない」と返させます。

Microsoft Copilot Studio でエージェントを作る場合は、生成AIの設定の「Allow ungrounded responses（根拠のない回答を許可）」をオフにすると、ナレッジ ソースやツールを使わずに作られた答えを止めて、代わりの会話（フォールバック）に回します。オフにしたときは、ナレッジ ソースへの引用が文中に付いた答えだけを返します。ただし、生成AIが一般的な知識をまったく使わないことを保証するものではない、とも書かれています（ナレッジ ソースの概要）。

自社で作る場合は、探した箇所が質問に関係するかを判定し、関係する箇所が無いときは生成AIに答えを作らせず、決まった文面を返す作りにします。答えを作らせた場合も、出典の付かない文があれば表示しない、という確かめ方を組み込めます。

「見つからない」の文面に入れること

• 探した文書の範囲（たとえば「総務部の規程と手順書」）
• 問い合わせ先の窓口（台帳の担当部署）
• 言い方を変えて聞き直すときの例

閲覧の権限が無い人には、その文書ははじめから探す範囲に入りません。「見つからない」の文面では、読めない文書があることをほのめかさず、窓口への案内にとどめます。「見つからない」と返した質問は記録に残し、次の節の見直しに回します。

質問の記録から、答えられなかった質問と古い根拠を拾う

使い始めてから文書の不足や古い版に気づく手がかりは、質問の記録です。記録を残す前に、何のために残し、どれだけの期間置き、誰が読むかを決めます。AI事業者ガイドラインの提供者向けの解説は、ログの記録と保存で検討する項目として、目的、保存期間、保護、開示する範囲、確認の手順などを挙げています（別添 p.148）。質問の文には、休職や介護のような本人の事情が書かれることがあるので、記録を読める人は見直しの担当に絞ります。

記録に残す項目

• 日時と、質問した人の部署（個人名まで要るかは、記録の目的から決める）
• 質問の文と、答えの文
• 根拠にした文書、版、箇所
• 「見つからない」と返したか
• 利用者の評価（役に立った・違う）と、担当部署に回したか

答えられなかった質問を、理由で分ける

「見つからない」と返した質問と、利用者が「違う」とした答えは、定期的に読んで理由で分けます。デジタル庁のガイドブックは、RAGの品質を確かめる観点を、質問に合った文章を探せたかと、探した文章に沿って生成AIが答えたかに分けて示しています（ガイドブック（α版）p.32）。記録の見直しにも、この分け方が使えます。

• 文書に答えが無い：担当部署が答えを決めて、文書に書き足す
• 文書にあるのに探せなかった：見出しや用語を、質問に使われる言い方にそろえる
• 読む権限の無い人の質問だった：窓口の案内で足りるか、権限を見直すかを担当部署と決める
• 探せたのに答えが違った：引用した箇所と答えを並べ、文書の書き方か、指示の書き方かを直す
• 古い版を根拠にしていた：その版が置かれている場所を、読む範囲から外す

Microsoft 365 の Copilot では、監査ログに、誰がいつ使ったかに加えて、答えを作るためにアクセスしたファイルやサイトが記録されます（組織で監査を有効にしている場合。Copilot および AI アプリケーションの監査ログ）。台帳にある旧版の置き場所と照らし合わせると、古い版が答えに使われていないかを確かめられます。

使われているかを見る数字

見る数字は次のものです。目安の値は業務と文書によって違うので、この記事では置きません。週ごとの推移と、「見つからない」や差し戻しの中身を読むことに時間を使います。何がどうなれば広げるかは、始める前に担当部署と決めておきます。

製品ごとに、記録で見られるもの

管理画面や記録で見られるものは、製品によって違います。

出典（2026年9月30日確認）：Microsoft Learn Microsoft Copilot の使用状況レポート・Copilot および AI アプリケーションの監査ログ・対話エージェントを監視する・Copilot Studio の監視の概要、Gemini Notebook ヘルプ Gemini Notebook でノートブックを作成する

利用の数は多くの製品の管理画面で見られますが、答えられなかった質問の中身まで見られるかは製品で違います。見られない場合は、利用者が「違う」「見つからない」を担当部署に送れる窓口を用意して、記録の代わりにします。

社外に出せない文書が混ざっている場合

台帳に「社外に出せない」とされた文書があっても、全体を止める必要はありません。理由を台帳の「外す理由」の欄に書き、理由ごとに扱いを決めます。入力がAIの学習に使われる心配なのか、事業者の設備に一定の期間残ることなのか、国外での保存や処理なのか、インターネットを経由する通り道なのか、外のネットワークから切り離して扱うという決まりなのか。理由によって、法人向けの契約と設定で足りるのか、ローカルLLMまで要るのかが変わります。分け方と各社の条件は、ローカルLLMが本当に要るのはどんなときかで扱っています。

取引先から預かった文書は、秘密保持の契約の文言によって扱いが変わるので、法務と条文を確かめるまでは外しておきます。先に、社外に出せない理由の無い規程や手順書から始めます。

最初は、問い合わせが集まる一つの部署の、一種類の文書から

Google Workspace の Gemini で社内の文書を引かせる場合に、管理コンソールで先に決める使える人とつなぐデータは「Gemini 研修を買う前に、Google Workspace の管理コンソールで決めておくこと」で解説しています。

最初から全社の文書を読ませると、台帳づくりも権限の見直しも終わらず、答えの確かめもできません。まず、問い合わせが集まる部署を一つ選び、その部署の文書のうち一種類だけを読ませます。総務の就業規則と申請の手順、情報システムのパソコンやアカウントの手続き、品質保証の手順書のように、同じ質問が繰り返し来ていて、正本と担当部署がはっきりしている文書が選びやすい対象です。

試験に使う質問は、過去に窓口へ来た問い合わせから集め、答えと根拠の箇所を担当者に書き添えてもらいます。その質問で、根拠の文書・版・箇所が正しく出るか、文書に無い質問に「見つからない」と返すか、古い版が出てこないかを確かめます。次の文書や部署に広げるかどうかは、試す前に決めた基準で判断します。

Aurant Technologiesでは、読ませる文書の仕分けと台帳づくり、閲覧権限の見直し、根拠を示して答える仕組みと質問の記録の設計を、一つの部署から試す形でお手伝いしています。進め方と、社内規程に出典つきで答えるデモは、AI活用支援のページで紹介しています。