Copilot のプロンプト インジェクション対策|Microsoft の対策と、管理者が確認・設定する5点

社外から届いたメールや文書に AI への指示が埋め込まれていると(プロンプト インジェクション)、Copilot が従ってしまう可能性があります。Microsoft はすべては止められない前提で対策を重ねています。管理者が確認・設定する5点(監査・アプリの更新・安全なリンク・Web 検索とエージェント・全社員がアクセスできるサイト)と、社員に伝える3点を、当社の検証環境の画面とあわせて解説します。

この記事をシェア:
目次 クリックで開く

取引先から届いたメールを Microsoft 365 Copilot(以下 Copilot)に要約させたとき、そのメールに人には見えない形で「AI への指示」が書き込まれていたら、Copilot はその指示に従ってしまうのでしょうか。

結論から言うと、従ってしまう可能性はあります。Microsoft もそれを前提に、すべては防げなくても被害が出にくいよう、複数の対策を組み合わせています。そのうえで会社の側でできるのは、管理者による設定の確認と、社員への使い方の周知です。本記事では、その具体的な手順を管理画面の写真つきで解説します。

対象は、300人以下の会社で Microsoft 365 を管理している方です。当社は Microsoft 365 と Copilot の導入や、生成 AI の社内ルール整備を支援しています。記事中の管理画面の写真は、当社の検証環境で撮影したものです。Copilot のリスク全体については「Copilot のセキュリティリスク」で解説しています。

プロンプト インジェクションとは:Copilot で問題になるのは「間接型」

プロンプト インジェクションは、AI に本来とは違う指示を紛れ込ませ、意図しない動作をさせる攻撃です。大きく2種類あります。利用者が自分で AI に不正な指示を打ち込む「直接型」と、AI に読ませるメールや文書、Web ページの中に指示を書き込んでおく「間接型」です(Microsoft Learn)。

本記事で扱うのは間接型です。直接型は利用者本人が仕掛けるものですが、間接型は、社員がふだんどおりに Copilot を使っているだけでも巻き込まれるからです。Copilot は、利用者の依頼(「このメールを要約して」)と、読ませたメールの本文を、ひと続きの文章として受け取ります。そのため、メールの中に書かれた文を、利用者からの指示と取り違えることがあります。Microsoft の製品のセキュリティ問題に対応する MSRC(Microsoft Security Response Center)は、2025年7月29日のブログで、これを今の AI の仕組みそのものから来る危険だと説明しています。本記事では、こうして書き込まれた指示を「埋め込まれた指示」と呼びます。

指示は、人が気づきにくい形で書き込まれます。たとえば、白い背景に白い文字で書いたり、引用された過去のやり取りや、添付の文書・PDF の中に入れたりします(Microsoft Learn)。Copilot が従ってしまうと、メールボックスの中の機密情報が漏れたり、誤った要約が作られたりするおそれがあります。

Copilot は指示に従ってしまうのか:Microsoft の対策

MSRC のブログは、埋め込まれた指示をすべて防ぎきることはできないという前提に立っています。一部の指示が通ってしまっても、利用者の被害につながらないように仕組みを作る、という考え方です。Microsoft 側の主な対策は、次のとおりです。

  • 指示を検出する:Copilot には、埋め込まれた指示を検出し、危険な入力を AI に渡す前に止める仕組み(分類器)が組み込まれています。
  • 迷惑メールを使わない:迷惑メールなど一部の望ましくない内容は、Copilot が回答を作るときの材料から外されます。
  • 持ち出しの方法をふさぐ:AI に情報を社外へ送らせる方法が外部の研究者から報告されたことがあり、Microsoft はその方法を使えないようにしました。
  • 本人の確認を挟む:Outlook で Copilot が書いたメールの下書きは、本人が内容を確認して送信するまで相手に届きません。

ただし、分類器も万全ではありません。Microsoft は、分類器が「すべての Microsoft Copilot シナリオで使用できるとは限りません」としています(Microsoft Learn)。Microsoft の対策だけに頼らず、管理者の設定と社員の使い方で補う必要があります。

メールや Web ページが届く、Copilot が読んで回答を作る、社員が回答を使う、の3つの段階ごとに対策を並べた図。Microsoft の対策、管理者が設定すること、社員が確認することを色で分けているメールや Web ページが届く、Copilot が読んで回答を作る、社員が回答を使う、の3つの段階ごとに対策を並べた図。Microsoft の対策、管理者が設定すること、社員が確認することを色で分けている
メールが届いてから社員が回答を使うまでの対策

管理者が確認・設定する5点(先に済ませるのは監査とアプリの更新)

管理者が確認・設定しておきたいのは、次の5点です。このうち監査とアプリの更新は、設定の確認と社員への連絡だけで済むため、先に済ませましょう。Web 検索とエージェント、全社員がアクセスできるサイトの見直しは、社内での相談が必要になるため、日程を決めて進めてください。

  1. 監査:監査がオンになっているかを確認し、オフならオンにする
  2. アプリの更新:Copilot を使う社員に、スマートフォンやタブレットのアプリと Mac の Outlook を更新してもらう
  3. 安全なリンク:Defender for Office 365 がある契約では、全社員に適用されているかを確認する
  4. Web 検索とエージェント:使わないものを無効にする
  5. 全社員がアクセスできるサイト:全社員がアクセスできるサイトを減らす

以下の手順は、Microsoft 365 Business Premium で Copilot を使っている場合を前提にしています。Business Standard や Business Basic でも手順はほぼ同じですが、安全なリンクは別の契約が必要です。また、全社員がアクセスできるサイトを調べるレポートは、契約によって使えないことがあります。まだ Copilot を使っていない場合は、使い始める前に済ませておくと安心です。

管理者が確認・設定する5点の表。監査、アプリの更新、安全なリンク、Web 検索とエージェント、全社員がアクセスできるサイトについて、管理者がすることと知っておくことを並べている管理者が確認・設定する5点の表。監査、アプリの更新、安全なリンク、Web 検索とエージェント、全社員がアクセスできるサイトについて、管理者がすることと知っておくことを並べている
管理者が確認・設定する5点

監査がオンになっているかを確認する

監査は、誰がいつ何をしたかの記録(監査ログ)を残す Microsoft 365 の機能です。監査がオンになっていれば、Copilot を誰がいつ使い、回答を作るためにどのファイルやメールを読んだかが自動で記録されます(Microsoft Learn)。ところが、Business Basic・Business Standard・Business Premium などの中小企業向けの契約では、監査は既定でオンになっていません(Microsoft Learn)。オフのままでは、Copilot がおかしな回答を出しても、何を読んだのかを後から調べられません。

  1. Microsoft Purview ポータル(purview.microsoft.com)に、管理者のアカウントでサインインします。
  2. 左のメニューから[監査]>[検索]を開きます。
  3. 監査がオフのときは、ページの上部に「ユーザーと管理者のアクティビティの記録を開始する」という表示が出ます。表示が出ていれば、クリックしてオンにします。
Microsoft Purview ポータルの[監査]>[検索]のページ。左のメニューの[監査][検索]と、ページ上部に枠が付いている。監査がオンの状態のため、上部に記録を開始する表示は出ていない
画面[監査]>[検索]。監査がオンの状態のため、上部に記録を開始する表示は出ていない(当社の検証環境、2026年11月9日撮影)

表示が出ていない場合も、念のため、監査がオンになっているかを確認してください。確認の方法や、表示をクリックしてもオンにならないときの対処は「Microsoft 365 の監査ログの検索」で解説しています。オンにしてから記録を検索できるようになるまで、数時間かかることがあります。記録の保存期間は 180 日間です(Microsoft Learn)。オンにする前の操作は後から調べられないため、すでに Copilot を使っている会社ほど早めに確認しましょう。

この記録が役に立つのは、社員から「Copilot がおかしな回答を出した」と連絡を受けたときです。監査ログで、その社員が Copilot を使ったときの記録(種類は「CopilotInteraction」)を開きます。記録の探し方は「Copilot の利用と監査ログ」で解説しています。

記録の「AccessedResources」という欄には、Copilot が回答を作るために読んだファイルやメールが並びます。その1件ずつに「XPIADetected」という項目があり、埋め込まれた指示が検出されたかどうかがわかります。ただし、検出されたからといって、指示が止められたとは限りません。止められなかったものとして、次のように対応しましょう。

検出の記録があったメールや文書は、Copilot に読ませないよう、その社員に伝えてください。あわせて、回答に出たリンクをクリックしたかどうかを本人に聞きましょう。クリックしていた場合は、フィッシングのリンクを開いたときと同じように、パスワードを変更してもらいます。検出の記録がない場合も、並んでいるファイルやメールに本人の心当たりのないものがないかを、一緒に確認してください。心当たりのないものがあれば、それも Copilot に読ませないようにしてもらいます。

スマートフォンとタブレットのアプリ、Mac の Outlook を更新してもらう

Copilot では、埋め込まれた指示に関わる脆弱性(セキュリティ上の欠陥)が実際に見つかっています。Microsoft は脆弱性に CVE という番号を付け、MSRC の Security Update Guide で公表しています。代表的なものは次の2件で、会社の側で作業が必要なのは2件目です。

  • CVE-2025-32711(2025年6月11日公表):AI に命令を紛れ込ませることで、権限のない攻撃者が情報を得られる脆弱性。Microsoft 側で修正済みのため、利用する会社の作業はありません。
  • CVE-2026-26133(2026年3月12日公表):悪意のあるメールを使って、Copilot に本物らしく見えるフィッシングの文面を表示させ、社員にリンクを開かせる脆弱性。iOS(iPhone・iPad)と Android のアプリ、Mac の Outlook の更新が必要です。

どちらも、悪用された事実は確認されていないと公表されています。ただし、更新していないアプリには脆弱性が残ります。2件目で更新が必要なのはスマートフォン・タブレットのアプリと Mac の Outlook で、Windows のパソコンのアプリは含まれていません。社員への案内は、たとえば次のような文面で送れます(当社の作例です)。

Copilot を安全に使うためのお願いです。スマートフォンやタブレットに入れている Microsoft のアプリ(Outlook、Teams、Word、Excel、PowerPoint、OneNote、Microsoft 365 Copilot、Edge など)を、App Store か Google Play ですべて最新版に更新してください。Mac で Outlook を使っている方は、Outlook も更新してください。

新しく Copilot を使い始める社員にも、同じ案内を送るようにしておきましょう。

安全なリンクが全社員に適用されているかを確認する

安全なリンクは、社員がリンクをクリックした時点で、リンク先が危険なサイトでないかを調べる機能で、メールを守る Microsoft Defender for Office 365 に含まれています。Microsoft は、Copilot の回答に出たリンクについても、管理者が安全なリンクを設定して社員を保護するのに役立つと説明しています。ただし Microsoft の説明は、管理者が設定すれば保護に役立つ、というところまでです。そのため、安全なリンクが全社員に適用されているかも確認しておきましょう。

Defender for Office 365 が使えるかどうかは、契約によって異なります(Microsoft Learn)。Business Premium にはプラン 1 が含まれています(Microsoft 365 E3 はプラン 1、E5 はプラン 2)。Business Standard と Business Basic は、含まれる契約に挙がっていません。別に契約した覚えがなければ、使えないと考えてよいでしょう。はっきりしない場合は、契約先(Microsoft 365 を購入した販売店か Microsoft)に問い合わせてください。

Defender for Office 365 がある場合、組み込み保護により、安全なリンクの保護は既定で全社員に適用されます(Microsoft Learn)。確認する場所は、Microsoft Defender ポータルの[事前設定されたセキュリティ ポリシー]のページ(security.microsoft.com/presetSecurityPolicies)です。「組み込み保護」の欄にある[除外の追加 (推奨されません)]に、保護の対象から外された社員やグループ、ドメインが登録されていないかを確認しましょう。登録があれば外した理由を確認し、理由がなければ元に戻してください。

Defender for Office 365 がない場合、この確認は不要です。その分、社員に伝える「リンクは行き先を確認してから開く」を、念入りに伝えてください。

使わない Web 検索とエージェントを無効にする

埋め込まれた指示は、メールだけでなく、Copilot に要約させた Web ページから入ってくることもあります。そのため、使わない Web 検索とエージェントは無効にしておきましょう。

Copilot の Web 検索は、法人向けの Microsoft 365 では既定で有効です(米国の政府機関向けの契約を除く)。無効にするかどうかは「Copilot で Web 検索を許可する」というポリシーで決め、社員やグループごとに変えることもできます。Microsoft Learn では「Copilot での Web 検索を許可する」と表記されています(Microsoft Learn)。Copilot に聞くのが社内の資料のことだけなら無効にし、ニュースや他社の情報など Web の情報も使いたいなら残す、というのが判断の目安です。社員の使い方がわからない場合は、使っている社員に聞いてから決めてください。

Microsoft 365 管理センターの[Copilot]>[設定]>[すべて表示]のページ。左のメニューの[設定]、一覧の「Microsoft Copilot の Web 検索」の行、右の欄の「この設定は、Microsoft 365 Apps 管理センターで管理できます。」に枠が付いている
画面[Copilot]>[設定]の「Microsoft Copilot の Web 検索」。右の欄に、Microsoft 365 Apps 管理センターで管理できると表示される(当社の検証環境、2026年11月9日撮影)

Microsoft 365 管理センターの[Copilot]>[設定]で「Microsoft Copilot の Web 検索」を開くと、この設定は Microsoft 365 Apps 管理センターで管理できると表示されます。ポリシーを作る場所は、Microsoft 365 Apps 管理センター(config.office.com)の[カスタマイズ]>[ポリシー管理]です。作成の手順と、無効にしたときに回答がどう変わるかは「Copilot の Web 検索を止める設定」で解説しています。Business Premium・Business Standard・Business Basic で無効にする場合は、まず数人の社員だけのグループに設定し、反映されるかを確認してから全社に広げましょう。

エージェントは、「総務への質問に答える」のように、決まった業務をさせるために作る Copilot の機能です。社員が自分で作ったり、Copilot のアプリのエージェント ストアから追加したりできます。エージェントが埋め込まれた指示に従ってしまったときに何が起きるかは、そのエージェントに何ができるかで変わります。MSRC のブログは AI 全般の例として、利用者の代わりにメールを送れる AI は、同僚にフィッシングのリンクを送らされるおそれがあると説明しています。

社内にどのようなエージェントがあるかは、Microsoft 365 管理センターの[エージェント]>[すべてのエージェント]で確認できます(Microsoft Learn)。一覧には Microsoft や外部の会社が作ったエージェントも数多く並ぶため、[発行元の種類]などのフィルターで絞り込み、社員が作って共有したものと外部の会社が作ったものを中心に確認しましょう。使わないものは無効にするかブロックし、メールの送信やデータの書き換えができるものは、使える社員を絞ってください。

Microsoft 365 管理センターの[エージェント]>[すべてのエージェント]のページ。左のメニューの[すべてのエージェント]と、一覧の上の[発行元の種類]のフィルターに枠が付いている
画面[エージェント]>[すべてのエージェント]。一覧の上の[発行元の種類]などのフィルターで絞り込める(当社の検証環境、2026年11月9日撮影)

一覧の見方とブロックの手順は「Copilot エージェントの承認・ブロック」で解説しています。

全社員がアクセスできるサイトを減らす

Copilot が回答に使う社内のデータは、その社員が閲覧できるものに限られます。編集はできなくても、閲覧できるものは対象になります。そのため当社は、Copilot が指示に従ってしまった場合に持ち出されうる社内のデータは、その社員がアクセスできる範囲までだと考えています。エージェントを使っている場合は、エージェントが読める範囲も確認してください。

アクセスできる範囲を狭めても、埋め込まれた指示そのものは防げません。取引先から届いたメールは受け取った社員が読めるため、Copilot も読めるからです。それでも、アクセスできる範囲は被害の大きさを左右します。MSRC のブログも、権限を細かく設定することを、被害の範囲を確実に狭められる対策として挙げています。

先に見直したいのは、全社員がアクセスできる SharePoint のサイト(部署やチームでファイルを置く場所)です。給与や人事の資料が置かれていれば、どの社員の Copilot からも読めてしまいます。SharePoint 管理センターの[サイト]>[アクティブなサイト]を開くと、社内にどのようなサイトがあるかを一覧で確認できます。

SharePoint 管理センターの[サイト]>[アクティブなサイト]のページ。左のメニューの[アクティブなサイト]と、サイトの一覧に枠が付いている。一覧には「営業部_提案資料」「人事_評価シート」「総務_社内規程(架空)」など、検証用の架空のサイトが並ぶ
画面[サイト]>[アクティブなサイト]。部署名のサイトは検証用の架空のもの(当社の検証環境、2026年11月9日撮影)

ただし、この一覧だけでは、どのサイトが全社員に公開されているかはわかりません。それを調べるには、SharePoint 管理センターの[レポート]>[データ アクセス ガバナンス]にある「サイトのアクセス許可」のレポートを使います。このレポートは SharePoint 高度な管理(SharePoint Advanced Management)の機能で、組織で1人以上に Copilot のライセンスを割り当てると使えるようになります。ただし土台になる契約の条件もあるため、Business 系の契約では使えるかを確認してください。レポートの読み方と、見直す順番は「Copilot 導入前のオーバーシェアリング対策」で解説しています。オーバーシェアリングとは、ファイルやサイトが必要以上に広く共有されている状態のことです。

社員に伝える3点:リンク・出典・送信前の確認

管理者が設定を済ませても、Copilot の回答をどう使うかは設定では決められません。Microsoft も、Copilot が作った内容を確認して使うのは利用者だとしています。社員には、次の3点を伝えておきましょう。

  • Copilot の回答に出たリンクは、行き先を確認してから開く
  • 社外に出す文書や重要な判断に使う要約は、出典を開いて元の文を確認する
  • Copilot が書いた下書きは、内容を読んでから自分で送信する

リンクの行き先を確認するのは、2026年3月に公表された脆弱性と同じ手口に備えるためです。パソコンではリンクにマウスを重ね、スマートフォンでは長押しすると、行き先のアドレスが表示されます。見覚えのないアドレスであれば開かないようにしてください。

出典は、Copilot の回答に付く、元になったファイルやメールへの参照です。埋め込まれた指示によって要約の中身が書き換えられることもあるため、社外に出す文書や、お金や契約に関わる判断に使うときは、出典を開いて元の文を確認してもらいましょう。下書きを読んでから送信するのは、おかしな文が入っていても、送信前なら本人が気づいて止められるからです。

あわせて、おかしいと思ったときの連絡先も伝えておきましょう。頼んでいないリンクや、元のメールにない依頼が回答に出てきたら、リンクを開かずに管理者に連絡してもらいます。連絡を受けた管理者は、監査の記録で Copilot が何を読んだかを調べます。

社員に伝える3点の表。リンクは行き先を確認してから開く、社外に出す文書や重要な判断に使う要約は出典を開いて元の文を確認する、下書きは内容を読んでから自分で送信する社員に伝える3点の表。リンクは行き先を確認してから開く、社外に出す文書や重要な判断に使う要約は出典を開いて元の文を確認する、下書きは内容を読んでから自分で送信する
社員に伝える3点

社内ルールにも、社外の文書に仕込まれた指示への備えを書いておく

社員への案内は、一度伝えて終わりにせず、生成 AI の社内ルールにも書いておきましょう。そうすれば、新しく入った社員にも同じ内容が伝わります。当社の AI 利用ルール整備支援で使う検討項目(2026年11月にまとめたもの)にも、「社外の文書に仕込まれた指示への備え」を入れています。社外のメールや文書、Web ページに仕込まれた指示で AI が意図しない動作をしないよう、設定と利用者の注意をどう決めるかを検討する項目です。決め方の例として、次の2つを挙げています。

  • 社外の文書を AI に読ませたときは、AI の出力をそのまま実行したり送信したりしないことを利用者に求める
  • エージェントが社外の文書を読んで動く機能を、設定で絞る

本記事の「社員に伝える3点」は前者を、エージェントの見直しは後者を具体的にしたものです。社内ルールに書くときは、たとえば次のような一文になります(当社の作例です)。

社外から届いたメールや文書、Web ページを生成 AI に読ませたときは、AI の出力に含まれるリンクや依頼をそのまま実行・送信せず、元のメールや文書で内容を確認してから使う。

規程全体の書き方は「Copilot の社内ルールの作り方」で解説しています。

契約によっては使える、さらに強い対策

ここまでの対策は、サイトのレポートを除けば、Business Premium の契約のままで進められます。契約によっては、次の対策も使えます。急ぐものではないため、ここまでの対策を済ませてから検討してください。

  • 届く前のメールを調べる:Defender for Office 365 のプラン 2 は、届く前のメールを調べ、埋め込まれた指示のあるメールを、フィッシングの疑いが強いメール(「高信頼度フィッシング」)として処理します(Microsoft Learn)。ただし、指示のような文をすべて止めるものではありません。プラン 2 は Microsoft 365 E5 などに含まれ、Business Premium に含まれるのはプラン 1 です。
  • 社外からのメールを Copilot に読ませない:社外のドメイン(メールアドレスの @ より後ろ)から届いたメールを、Copilot が回答の材料にも要約にも使わないようにする設定です。プレビュー(正式提供前)の機能で、Microsoft Purview の DLP(データ損失防止)で設定します(Microsoft Learn)。設定すると、取引先から届いたメールを Copilot で要約できなくなります。

社外からのメールを読ませない設定を使う場合は、先に契約を確認してください。Microsoft のライセンスの表では、Copilot にファイルやメールを処理させない DLP は、Business Basic・Business Standard・Business Premium には含まれておらず、Microsoft 365 E5 や Microsoft Purview Suite などに含まれています(Microsoft Learn)。この設定が向いているのは、Copilot に聞くのが社内の資料のことだけの会社です。取引先のメールの要約に Copilot を使っている会社には向きません。

権限の見直しや社員への伝え方までまとめて整えたい場合は「Microsoft 365 Copilot の導入支援」、生成 AI の社内ルールから整えたい場合は「AI の規約・ルール整備支援」でご相談を承っています。

この記事の確かめ方

この記事は、2026年11月20日に Microsoft の次のページを開いて確認した内容をもとに書いています。画面の操作は、Microsoft Learn の手順と、当社の検証環境の画面(2026年11月9日撮影)によります。Web 検索のポリシーを作る場所と画面の表記は、当社の「Copilot の Web 検索を止める設定」の記事で確認した画面によります。

Microsoft の考え方と、見つかった脆弱性は、次の公表によります。

当社の検証環境:Business Premium with Copilot の検証用テナントです。監査の写真は、撮影時点で監査がオンになっていた状態です。この環境が契約した時点でオンだったという意味ではありません。エージェントの一覧に並ぶものは、環境や時期によって変わります。部署名のサイトは検証用の架空のもので、テナント名は伏せています。

当社の考え:次のものは、Microsoft Learn の説明をもとに当社がまとめたものです。管理者が確認・設定する5点への分け方と先に済ませる2点、安全なリンクの適用を確認すること、Defender for Office 365 を別に契約した覚えがなければ使えないと考えてよいこと、持ち出されうるデータの範囲の考え方、社員に伝える3点とリンクの行き先の確認方法、検出の記録があったときの対応、エージェントの一覧で見るものと使える社員の絞り方、先に見直すサイトの選び方、組み込み保護から外された社員がいたときの対応、Web 検索を残すかどうかの判断の目安、社外からのメールを読ませない設定が向く会社、Business Standard・Business Basic でも手順がほぼ同じであること、Web 検索の設定を数人のグループで先に試すこと、エージェントが読める範囲も確認すること、おかしいと思ったときの連絡先と管理者が監査の記録で調べること、さらに強い対策は急がなくてよいこと、社内ルールの検討項目と本記事の対策の対応づけ、社内ルールの作例。Microsoft Learn のページでは、製品名が Microsoft Copilot と書かれていることがあります。Copilot の対策と契約の内容は変わることがあるため、作業の前に各ページの最新の内容を確認してください。

Microsoft 365 Copilot 導入支援

無料の Copilot Chat がもう社員の画面に出ている、有料版を誰に何人配るか決められない、全社に開いたままの SharePoint のサイトがある。配る前の共有の見直しから、ライセンスの選び分け、ライセンスの外でかかる費用の上限、使われているかの確認までを支援します。

AT
aurant technologies 編集

上場企業からスタートアップまで、数多くのデータ分析基盤構築・AI導入プロジェクトを主導。単なる技術提供にとどまらず、MA/CRM(Salesforce, Hubspot, kintone, LINE)導入によるマーケティング最適化やバックオフィス業務の自動化など、常に「事業数値(売上・利益)」に直結する改善実績多数。

この記事が役に立ったらシェア: