Dify で社内 FAQ ボットを作る｜権限とハルシネーション対策の最低限

生成AIの業務活用において、最も「手離れが良く、効果が見えやすい」のが社内FAQボットの構築です。しかし、安易にLLM（大規模言語モデル）へマニュアルを読み込ませるだけでは、事実に基づかない回答を生成する「ハルシネーション」や、本来閲覧権限のない社員に機密情報が漏洩するリスクを排除できません。

本記事では、オープンソースのLLMアプリ開発プラットフォームである「Dify」を用い、実務に耐えうる精度の社内FAQボットを構築するための、権限設計とハルシネーション対策の最低限かつ必須の設定を解説します。

Difyで社内FAQボットを構築するメリットと準備

これまで社内FAQボットを構築するには、高額なSaaSを契約するか、Python等のプログラミング言語を用いて一からRAG（Retrieval-Augmented Generation：検索拡張生成）を実装する必要がありました。Difyは、その中間を埋める「ノーコード・ローコードプラットフォーム」として、IT実務担当者にとって最適な選択肢となります。

なぜSaaSのチャットボットではなく「Dify」なのか

市場には多くのAIチャットボットツールが存在しますが、Difyが選ばれる理由は「モデルの柔軟性」と「データの透明性」にあります。

• モデルの切り替えが容易：GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Proなど、用途やコストに応じて最適なLLMを瞬時に切り替え可能です。
• ワークフローの可視化：AIが回答を生成するまでのプロセス（検索、要約、回答生成）をフローチャート形式で定義できるため、ブラックボックス化を防げます。
• セルフホストが可能：機密情報をクラウドに上げたくない場合、自社サーバーやクラウドのプライベートネットワーク内にDockerで構築できます。

必要な環境とコスト（Cloud版 vs セルフホスト版）

Difyには、手軽に始められる「Dify Cloud」と、自由度の高い「セルフホスト版（オープンソース）」の2種類があります。実務上は、検証段階ではCloud版、本格運用ではセキュリティポリシーに合わせてセルフホスト版を選択するのが一般的です。

※料金の詳細は、必ずDify公式価格ページをご確認ください。

事前準備：ナレッジ（社内規定・マニュアル）の整理

ボットを作成する前に、読み込ませるデータの「鮮度」と「構造」を確認してください。古い就業規則や、不完全なマニュアルを読み込ませれば、AIは当然「質の低い回答」を生成します。特に、ExcelやPDFで複雑なレイアウトになっている資料は、テキストベースのMarkdown形式に変換しておくと、後の検索精度が劇的に向上します。

こうした業務のデジタル化やデータの整理については、Excelと紙の限界を突破する「Google Workspace × AppSheet」業務DX完全ガイドでも解説している通り、データの入り口を整えることが、AI活用の大前提となります。

ハルシネーションを防ぐ「RAG」設定の重要ポイント

AIが「もっともらしい嘘」をつくハルシネーションは、社内FAQにおいて致命的です。「夏季休暇は何日ですか？」という問いに対し、AIが勝手に「7日間です（正解は3日）」と答えてしまえば、社内トラブルを招きます。これを防ぐのがRAGの技術です。

RAG（検索拡張生成）の仕組みを実務レベルで理解する

RAGとは、ユーザーの質問に対し、まず「社内ナレッジ（データベース）」から関連する情報を検索し、その検索結果を添えてLLMに「この情報だけを基に答えてください」と指示する仕組みです。DifyはこのプロセスをGUI上で簡単に設定できるようになっています。

精度を劇的に変える「クリーニング」と「チャンク分割」

ナレッジをDifyに取り込む際、非常に重要なのが「チャンク設定」です。チャンクとは、長い文章を細切れにする単位のことです。

• チャンクサイズ：1つの塊を何文字にするか（例：500〜1000文字）。短すぎると文脈が切れ、長すぎるとノイズが増えます。
• オーバーラップ：前のチャンクと末尾をどれくらい重ねるか（例：10〜15%）。文脈の連続性を維持するために必須です。
• クリーニング：不要な改行、ヘッダー、フッターを削除します。Difyのインポート設定にある「自動クリーニング」を活用しましょう。

検索設定：ベクトル検索、全文検索、ハイブリッド検索

Difyの「ナレッジ」設定では、検索方法を選択できます。社内FAQでは、以下の「ハイブリッド検索」を強く推奨します。

1. ベクトル検索（Semantic Search）：言葉の意味の近さで探す。「休み」という単語で「休暇規定」を探し出せる。
2. 全文検索（Keyword Search）：特定のキーワードの有無で探す。「第14条」や「固有名詞」を正確に探すのに適している。
3. ハイブリッド検索：上記2つを組み合わせ、さらに「Rerank（再ランク付け）」を行うことで、最も関連性の高い情報を抽出します。

システムプロンプトによる「知らないことは言わない」の徹底

プロンプト設定において、以下のような「制約事項」を明記することが、ハルシネーション対策の最後の砦となります。

あなたは会社のFAQアシスタントです。提供されたコンテキスト（ナレッジ）の中に答えが見つからない場合は、推測で答えず「申し訳ございませんが、提供された資料の中には該当する情報が見つかりませんでした。担当部署の〇〇課へ直接お問い合わせください」と正直に伝えてください。

【実践】Difyでの社内FAQボット構築ステップ

具体的な構築手順を追っていきます。ここではDify Cloudを例に説明しますが、セルフホスト版でも基本的な操作は同様です。

ステップ1：ナレッジ（Dataset）の作成とデータ投入

1. Difyのダッシュボードから「ナレッジ」→「ナレッジを作成」をクリック。
2. ファイル（PDF, Markdown, CSV等）をアップロード。
3. 「インデックス設定」で「高品質」を選択。ここで前述の「ハイブリッド検索」と「Rerankモデル（例：BGE-Reranker）」を選択します。
4. 「保存して処理」をクリックし、インデックスが完了するのを待ちます。

ステップ2：チャットフロー（Workflow）の設計

単純な「チャットボット」形式ではなく「ワークフロー」形式で作成すると、より複雑なロジックを組めます。
基本構成は以下の通りです。

• Start：ユーザーの質問を受け取る。
• Knowledge Retrieval：質問を基に、ステップ1で作ったナレッジを検索。
• LLM Node：検索されたナレッジと質問を組み合わせて回答を生成。
• End：回答を表示。

ステップ3：LLMパラメーター（Temperature等）の最適化

FAQボットの場合、創造性は不要です。LLMノードの設定で、Temperature（温度）を「0」または「0.1」に近い低数値に設定してください。これにより、回答のランダム性が抑えられ、一貫した事実に基づく回答が得られやすくなります。

よくあるエラーとトラブルシューティング

• 「Context length exceeded」：ナレッジから抽出した情報が多すぎて、LLMの制限文字数を超えた場合に発生します。検索件数（Top-K）を減らすか、より大きなコンテキストウィンドウを持つモデル（GPT-4o等）に変更してください。
• 「API Key Invalid」：OpenAI等のAPIキーが正しく設定されていないか、期限切れ、あるいは残高不足です。Difyの「設定」→「モデルプロバイダー」から確認してください。

社内運用に必須の「権限管理」と「セキュリティ」

全社員が全情報を閲覧できる環境は、セキュリティ上望ましくありません。例えば「給与規定」は全社員に見せて良いが、「役員報酬規定」や「特定のプロジェクト資料」は制限したい、といったケースです。

Dify標準機能でできるアクセス制限

Dify CloudのProfessionalプラン以上では、ワークスペース内のメンバーごとにロール（管理者、編集者、閲覧者）を設定できます。しかし、これは「アプリを作る人」の権限であり、「ボットを使うユーザー」ごとの閲覧制限には、別途工夫が必要です。

部署・役職別のボット出し分けとAPI活用

最も現実的な方法は、「閲覧権限の範囲ごとにナレッジとボットを分ける」ことです。

• 全社共通ボット：福利厚生、社内施設案内など（全社員がアクセス可能なナレッジ）。
• 人事担当者専用ボット：採用基準、個別の人事評価ガイドラインなど（特定メンバーのみがアクセス可能なナレッジ）。

これを一つのインターフェースで制御したい場合は、フロントエンド（Slackや独自Webアプリ）側でユーザーの属性を判別し、呼び出すDifyのAPIキーを切り替える実装が必要になります。

アカウント管理や権限の自動化については、SaaS増えすぎ問題と退職者のアカウント削除漏れを防ぐ。Entra ID・Okta・ジョーシスを活用した自動化アーキテクチャで紹介しているようなID管理（IdP）との連携を視野に入れると、よりセキュアな運用が可能になります。

機密情報のマスキングと監査ログの確認

Difyには「コンテンツ審査」機能があり、特定のキーワードが含まれる入出力をブロックできます。また、セルフホスト版であればデータベース（PostgreSQL等）にすべてのチャット履歴が保存されるため、いつ、誰が、どのような質問をしたかを監査ログとして抽出することが可能です。

社内FAQの枠を超えた「業務自動化」への拡張

Difyで構築したFAQボットは、単なる「一問一答」で終わらせるにはもったいないポテンシャルを秘めています。外部ツールとの連携により、アクションを伴うボットへと進化させることができます。

他の社内ツール（Slack / Teams / Google Workspace）との連携

Difyは外部公開用のAPIを提供しているため、Slack Boltなどを用いてSlackボット化するのが一般的です。また、HTTP Requestノードを使えば、回答後に「チケットをJiraに起票する」「Googleスプレッドシートにログを記録する」といった事後処理も自動化できます。

既存のバックオフィス基盤との整合性

FAQの内容が経理や労務に関わる場合、ボットの回答から直接申請画面へ誘導する、あるいは申請状況を照会するといった連携が考えられます。例えば、バクラク vs freee支出管理の徹底比較で検討されるような支出管理フローにおいて、「この費用はどの科目で落とすべきか？」をDifyボットに相談し、そのまま申請URLを提示させるといった動線設計が有効です。

継続的な精度改善（アノテーション）のフロー

ボットは公開して終わりではありません。Difyの「ログと注釈」機能を使えば、AIの回答が間違っていた場合に、人間が「正しい回答」を教え込む（注釈をつける）ことができます。次回以降、似た質問が来た際にはその注釈が優先的に参照されるため、運用を続けるほどに精度は向上していきます。

ハルシネーション対策と権限管理、この2点を設計段階で押さえておくことで、Difyは単なる便利なツールから、信頼できる「社内インフラ」へと昇華します。まずは小さな部署の特定マニュアルからスモールスタートし、アノテーションを通じて「自社専用の知能」を育てていくことをお勧めします。