ローカルLLMが本当に要るのはどんなときか｜『社外に出せない』を分けて考えると、構築しなくて済む場合がある

「社外に出せない情報があるから、クラウドの生成AIは使えない。だからローカルLLMを構築する」と決める前に、その「出せない」の中身を分けて確かめます。入力した内容をAIの学習に使われたくないのか、事業者の側に一定の期間残るのが困るのか、個人情報や取引先から預かった情報が入るのか、国内に置く必要があるのか、インターネットを通したくないのか、それともネットワークから切り離した機器で扱うと決まっているのか。どれに当たるかで、足りる対策が変わります。

学習と保存の扱い、個人情報、取引先との契約、国内での保存と処理、インターネットを通る経路は、多くの場合、法人向けの契約と管理設定、国内で処理できる提供形態、閉域の接続を組み合わせて満たせます。自社でGPUサーバーを持ってモデルを動かすローカルLLMが本当に要るのは、ネットワークから切り離す必要がある場合が中心です。政府の情報システム向けに書かれたデジタル庁のガイドブックも、生成AIの提供形態は、既製のサービス、クラウドのAPI、自前の環境に置くモデルの順に検討するよう勧めています。扱う情報の機密性の高さから自前の環境を選ぶことも十分にありうるとしつつ、その形は開発と運用のコストが最も高い傾向があり、使えるモデルも限られるとしています（テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版））。

この記事は、Aurant Technologiesが生成AIの導入を支援するときに最初に確かめる「扱う情報の種類」と「使うツールとプラン」を、条件ごとに各社の公式の文書と国のガイドラインに照らして確かめる手順にまとめたものです。各社の規約と仕様は2026年9月29日に確認しました。今後変わることがあるので、契約の前にもう一度、同じ文書で確かめてください。

「クラウドは使えない」と言われたら、理由を一つずつ聞き直す

「クラウドは使えない」と言ったのが情報セキュリティの担当でも、法務でも、取引先でも、最初に次のことを聞き直します。

• どの情報のことか。文書やデータの種類と、どの部署のどの業務で使うものか
• 何が困るのか。学習に使われること、事業者の側に残ること、国外に置かれること、インターネットを通ること、など
• 根拠はどこにあるか。社内規程のどの条項か、取引先との契約のどの条文か、法令か
• 誰が最後に判断するか

答えを冒頭の図の段に当てはめると、どの対策で足りるかの見当がつきます。一つの情報に、いくつもの段が当てはまることもあります。たとえば住民の個人情報を扱う自治体なら、個人情報の段と、自治体の区分の段の両方を確かめます。

「学習に使われる」という心配は、個人向けのプランでの扱いから来ていることがあります。個人向けのプランと法人向けの契約では、入力したデータの扱いが違います。次の節は、法人向けの契約で何を確かめるかから始めます。

学習に使われない契約と、事業者の側に残る期間

法人向けの契約では、4社とも、入力と出力を既定ではモデルの学習に使わないと、公式の文書で説明しています。

• Anthropic：Claude for Work や API などの法人向けの製品（Is my data used for model training?）
• OpenAI：ChatGPT Business・Enterprise・Edu と API プラットフォーム（OpenAI におけるエンタープライズプライバシー）
• Microsoft：Microsoft Foundry（旧 Azure AI Foundry）で提供する Azure OpenAI などのモデル（Azure が販売する Foundry モデルのデータ、プライバシー、セキュリティ）と、Microsoft 365 Copilot（Microsoft Copilot のデータ、プライバシー、セキュリティ）
• Google：Gemini Enterprise Agent Platform（旧 Vertex AI。Gemini Enterprise Agent Platform and zero data retention）と、Google Workspace の Gemini（Google Workspace の生成 AI に関するプライバシー ハブ）

個人向けのプランは扱いが各社で違い、設定しだいで学習に使われるものがあります。個人向けと法人向けの違いは、AI活用支援のページで4社分を表にしています。

「学習に使わない」の例外と、保存の期間

「学習に使わない」には例外があります。Anthropicは、利用者が高評価・低評価のボタンでフィードバックを送ると、その会話全体を最長5年保存し、学習に使うことがあるとしています。TeamプランとEnterpriseプランの管理者は、組織の設定でこの送信を止められます（同じ文書）。使い始める前に、こうした例外と、管理者が止められる設定を確かめておきます。

学習に使わない契約でも、不正利用の監視などのために、入力と出力が一定の期間、事業者の側に保存されることがあります。4社の法人向けの扱いは次のとおりです。

2026年9月29日に各社の公式の文書で確認。出典：Anthropic How long do you store my organization’s data?・Configure custom data retention controls for Enterprise plans、OpenAI Data controls in the OpenAI platform・エンタープライズプライバシー、Microsoft Learn Foundry モデルのデータ、プライバシー、セキュリティ・不正使用の監視・Microsoft Copilot のデータ、プライバシー、セキュリティ、Google Gemini Enterprise Agent Platform and zero data retention・Abuse monitoring・Google Workspace の生成 AI に関するプライバシー ハブ

新しいモデルに替えると、保存の条件が変わることがある

保存の条件は、同じ事業者、同じ契約の中でも、使うモデルによって変わることがあります。Anthropicは2026年6月9日から、同社が指定した一部の新しいモデル（Mythos級のモデルと、同じ基盤の Claude Fable 5・5.1 など）について、保持しない契約（Zero Data Retention）を結んでいる組織でも、入力と出力を30日保存するとしています。AWS、Google Cloud、Microsoft Foundry を通して使う場合も同じです（Data retention practices for Covered Models。一部の組織には、別の扱いの案内があるとしています）。Amazon Bedrock と Google Cloud の説明にも、これらのモデルの入力と出力を最長30日保存する旨があります（Amazon Bedrock による不正検出、Abuse monitoring）。OpenAIも、保持しない扱いを承認した顧客について、事前に書面で知らせたうえで、特定のモデルをその扱いの対象から外すことがあるとしています（Data controls in the OpenAI platform）。

保持しない契約を結んでいても、モデルを替えると条件が変わることがあります。モデルを替えるときに保存の条件を確かめ直す手順を、社内の決まりに入れておきます。

個人情報と、取引先から預かった情報

個人情報が入る場合

個人情報保護委員会は2023年6月2日の注意喚起で、事業者が個人情報を含むプロンプトを生成AIサービスに入力するときに、二つのことを確かめるよう求めています。一つは、入力が、特定した利用目的を達成するのに必要な範囲にとどまっていること。もう一つは、サービスの事業者が、入力された個人データを応答の出力以外の目的で扱わないこと、たとえば機械学習に使わないことです。本人の同意なく入力した個人データが応答以外の目的で扱われると、法に違反する可能性があるためです。行政機関や自治体にも、同じ趣旨の注意点が示されています（生成AIサービスの利用に関する注意喚起等について）。

クラウドサービスを使うことが個人データの第三者への提供や委託に当たるかについて、委員会のQ&Aは、保存するデータに個人データが含まれるかではなく、サービスの事業者がその個人データを取り扱うことになっているかで判断するとしています（Q&A 7-53）。取り扱わないことになっている場合でも、利用する側は自ら安全管理措置を講じる必要があります（Q&A 7-54）。

事業者が外国にある場合は、もう一段確かめます。外国の事業者のクラウドに個人データを保存するときは、その国の個人情報保護の制度を把握したうえで安全管理措置を講じ、事業者とサーバの所在国などを本人が知り得る状態に置く必要があり、サーバが日本国内にある場合も同じだとされています（Q&A 10-25）。また、外国の事業者が国内のサーバに保存された個人データを取り扱う場合は、外国にある第三者への提供に当たることがあります（Q&A 12-4）。

総務省と経済産業省のAI事業者ガイドライン（第1.2版、2026年3月31日）も、AIを使う事業者に、個人情報や機密情報を不適切に入力しないよう注意することと、提供者が定めた規約を守ることを挙げています（AI事業者ガイドライン（第1.2版）本編）。個人情報が入ることは、それだけでローカルLLMが要る理由にはなりません。確かめるのは次のことで、個人情報の担当や法務と一緒に見ます。

取引先から預かった情報

取引先から預かった図面や仕様書、取引先の顧客のデータには、秘密保持の契約で、第三者への開示や目的の外での利用を制限しているものがあります。クラウドの生成AIに入力することが、契約の言う開示や利用に当たるかは、契約の文言によって変わります。当てはまりそうなら法務と条文を確かめ、必要なら取引先に使い方（どのサービスに、どの設定で入力するか）を説明して了解を取ります。

契約で、扱う機器や場所まで決まっていることもあります。たとえば「社外のネットワークにつながらない端末で扱う」と決まっている情報は、後の節の「ネットワークから切り離す必要がある」に当たります。

国内での保存・処理と、インターネットを通さない接続

「国外に置けない」は、保存の場所と、処理の場所に分けて確かめます。保存の場所は、会話の履歴やアップロードしたファイルなどが置かれる国です。処理の場所は、モデルが入力を受け取って答えを計算する国です。多くのサービスで、この二つは別々の設定で決まります。「インターネットを通したくない」は、さらに別の、通り道の話です。

保存が国内でも、処理は国外のことがある

主なサービスの扱いを、2026年9月29日に公式の文書で確かめました。

2026年9月29日に各社の公式の文書で確認。出典：Microsoft Learn Microsoft Foundry モデルの展開の種類、OpenAI Data controls in the OpenAI platform・Data residency and inference residency for ChatGPT、Anthropic Data residency、Google Cloud Data residency、AWS 地理的クロスリージョン推論・Supported Regions and models for inference profiles

日本での保存を選べても、処理まで日本に限れるとは限りません。Microsoft Foundry では、新しいモデルはまずグローバルの展開の種類で提供され、展開の種類はグローバル、データゾーン、地域の順に使えるようになります。地域の中で処理する種類は最後で、使えるようになる時期も保証されていません（Microsoft Foundry モデルの展開の種類）。国内での処理を条件にすると、使えるモデルが限られたり、新しいモデルを使えるのが遅れたりすることがあります。規程や契約が求めているのが保存の場所なのか、処理の場所なのかを、元の文言に戻って確かめます。

国内のサーバでも、法令の上の扱いは別に確かめる

個人データの場合は、サーバの場所だけでは扱いが決まりません。前の節で見たとおり、外国の事業者が国内のサーバの個人データを取り扱うなら、外国にある第三者への提供に当たることがあります（Q&A 12-4）。自治体向けの総務省のガイドラインも、クラウドサービスではデータセンターがある国の法律が適用される場合があることに触れ、情報を保存できる国や地域を前もって決めておくよう求めています（地方公共団体における情報セキュリティポリシーに関するガイドライン（令和8年3月版））。

インターネットを通さずにつなぐ

「インターネットを通したくない」が条件なら、閉域の接続で足ります。Microsoft Foundry は、プライベートエンドポイントでつなぎ、公開のネットワークからの接続を無効にできます（Microsoft Foundry のネットワーク分離を構成する方法）。Amazon Bedrock は、AWS PrivateLink のインターフェイスエンドポイントを使うと、インターネットゲートウェイや NAT を使わずに、VPC の中から呼び出せます（インターフェイス VPC エンドポイント (AWS PrivateLink)）。Google の Agent Platform は、社内のネットワークから Cloud VPN や Cloud Interconnect と Private Service Connect を通して、非公開でつなぐ構成を示しています（Use Private Service Connect to access Agent Platform from on-premises）。

ただし、閉域の接続で変わるのは通り道です。データを受け取って処理するのは、事業者のデータセンターのままです。「事業者の設備にデータを渡さない」ことが条件なら、閉域の接続では満たせないので、後の節の「ネットワークから切り離す必要がある」に進みます。

自治体がLGWAN接続系から使う場合

自治体の情報セキュリティポリシーの参考として、総務省は「地方公共団体における情報セキュリティポリシーに関するガイドライン」を示しています。2026年9月29日時点の最新は、令和8年3月27日に改定された令和8年3月版です（ガイドライン（令和8年3月版））。ガイドラインは生成AIに限った書き方ではありませんが、どの区分の情報にパブリッククラウドを使えるかと、LGWAN接続系からクラウドサービスへのつなぎ方を示しています。

情報の区分ごとに、パブリッククラウドを使える範囲

ガイドラインは、機密性の区分ごとに、パブリッククラウドサービスを使える範囲の例を示しています（図表22）。住民記録や税務などのシステムに保存される住民の個人情報（自治体機密性3B）と、職員の属性に基づく個人情報や入札予定価格など（3C）は、ISMAPに登録されたサービスなら、アクセス制御や暗号化などの対策を講じて使えるとしています。インターネットに接続していない機器への保存が求められているのは、秘密文書に相当する文書（3A）のうちの極秘文書です。一方で、クラウドサービスの利用を定めた8.3の解説は、画一的な約款への同意だけで使えるクラウドサービスでは、原則として自治体機密性2以上の情報は扱えないとしています（ガイドライン本文）。

総務省の「自治体におけるAI活用・導入ガイドブック」（導入手順編、第4版、令和7年12月）は、この区分を生成AIに当てはめ、入力した要機密情報を学習させない仕組みが重要だとしたうえで、扱う情報が個人情報に当たるからといって生成AIの利用を全て否定することは、職員の業務効率化や住民サービスの向上にとって必ずしもプラスにならないとしています（自治体におけるAI活用・導入ガイドブック＜導入手順編＞（第4版））。

LGWAN接続系からつなぐ道

LGWAN接続系の端末から使う道として、ガイドラインは二つを示しています。一つはLGWAN-ASPで、J-LIS（地方公共団体情報システム機構）の審査で閉域性が確認されたサービスを、LGWANを通して使えます。もう一つはα’モデルで、LGWAN接続系からインターネット上の特定のクラウドサービスへ直接つなぎます（ローカルブレイクアウト）。α’モデルで使えるのはISMAPのクラウドサービスリストに登録されたサービスで、登録されたサービスを基盤に作られたサービスは、それだけでは登録サービスとして扱えません。採用する前に外部による確認を受けて報告書をJ-LISに出し、その後も定期的な外部監査が要ります（ガイドライン本文）。

どちらも、庁内にGPUサーバーを置かずに使える道です。庁内に閉じたモデルが要るのは、極秘文書のように、インターネットに接続していない機器で扱う情報を使う場合です。庁内の利用ルールの作り方は、自治体の生成AI活用ガイドライン整備の進め方で扱っています。

ネットワークから切り離して動かす必要があるとき

ここまでの対策で満たせないのは、インターネットに接続していない機器で扱うと決まっている情報と、外につながる経路を作れない場所で使う場合です。たとえば、自治体の極秘文書のように規程で保存先が決まっている情報、取引先との契約で扱う端末まで決まっている情報、工場や研究所の閉じたネットワークの中で使う場合です。このときは、モデルを自社の環境に置いて動かすローカルLLMが検討の対象になります。

デジタル庁のガイドブックは、モデルを自分の環境に置いて使う形について、インターネットにつながらない環境だけで完結できるため、非常に機微な情報を扱うときの選択肢になるとしています。一方で、初期の構築と保守運用のコストが高く、使える大規模言語モデルも限られるとしています。提供形態を比べた表でも、この形は開発のコストが最も高く、最高峰のモデルを使えない可能性が高く、運用のコストも最も高い傾向があるとしています（利用がとても多い場合に運用のコストを抑えられる可能性にも触れています）。

なお、ガイドブックの言うこの形には、オンプレミスのサーバーだけでなく、クラウドの上に計算環境を用意してモデルを置く方法も含まれます。切り離しが条件のときは、クラウドの上の環境も外につながる環境なので、置き場所は社内の、外につながらないネットワークになります（ガイドブック（α版）2.4・7.3）。

ローカルで動かすときも、外に出ない設定を確かめる

ローカルで動かすつもりでも、道具の設定しだいで外に送ることがあります。たとえば Ollama は、手元のモデルに加えて、Ollama のクラウドで動くモデルも同じアプリやコマンドから使えます（Cloud – Ollama）。手元のモデルだけに限るには、設定ファイルか環境変数でクラウドの機能を無効にします（How do I disable Ollama Cloud features?）。切り離しが条件なら、こうした設定を確かめたうえで、外につながらないネットワークに置きます。

オープンなモデルにも、それぞれ利用条件（ライセンス）があります。デジタル庁のガイドブックは、元のモデルに追加の学習をしたモデルは元のモデルのライセンスを引き継ぐのが一般的なので注意が要る、としています（ガイドブック（α版）7.3）。業務に使う前に、モデルごとの利用条件を確かめます。

ローカルのモデルとクラウドのモデルを、自社の質問で比べる

ローカルLLMを選ぶと、使えるモデルが限られます。業務に足りるかは、一般的な性能の比較では分からないので、自社の実際の質問で、ローカルのモデルとクラウドのモデルを比べます。デジタル庁のガイドブックが生成物の品質の評価について挙げている工夫が、そのまま比べ方に使えます（ガイドブック（α版）5.2）。

質問と正解は、過去の実際のやりとりから集めるのが近道です。ガイドブックも、ヘルプデスクの過去の問い合わせと回答を、そのまま試験の問題と正解に使う例を挙げています。答えのばらつきは避けられないので、同じ質問を何度か試し、ばらついても合格するかを見ます。採点は漠然と良し悪しを見るのではなく、必要な文書を拾えているか、答えが文書に書かれた内容か、読みやすく決めた形式になっているか、というように観点を分け、複数の人が別々に行います。

比べるときに使う文書にも気を付けます。クラウドのモデルで試すには、試験の質問と文書をクラウドに送ることになるので、送ってよい文書（公開済みの規程や、固有名詞を伏せた文書など）で比べます。社外に出せない文書そのもので比べられない場合は、同じ種類の、出してよい文書で代えます。呼び出し方をそろえておくと比べやすく、Ollama は OpenAI の API の一部に対応しているので、同じ試験の仕組みから手元のモデルも呼び出せます（OpenAI compatibility – Ollama）。

差が出たら、その差を業務で許せるかで決めます。足りない所が、指示文や文書の整え方で埋まるかも確かめます。ローカルのモデルで足りない業務があるなら、切り離しが要る情報だけをローカルで扱い、ほかはクラウドで扱う分け方もあります。

GPUサーバーを誰が面倒を見るか

自社のサーバーで動かせる Dify のようなツールを使う場合の、クラウド版かセルフホストかの分け方と、直す人は「Dify の導入支援を頼む前に決めること」で解説しています。

ローカルLLMは、置いたあとの仕事が続きます。

• GPUのドライバー、OS、推論のソフト（Ollama など）の更新
• 新しいモデルへの入れ替えと、前の節の比べ方での確かめ直し
• 故障や停止への対応（部品の交換、止まっている間の代わり）
• 利用者の認証と、操作の記録
• 電源、冷却、置き場所の管理

更新には期限もあります。NVIDIAのデータセンター向けのドライバーは、本番向けのブランチで1年、長期サポートのブランチで3年と、不具合と安全上の修正が出る期間が決まっています（Driver Lifecycle）。期間が終わる前に次のブランチへ移る計画が要ります。モデルも、置いたものが自動で新しくなることはないので、入れ替えるかどうかと時期を自社で決め、そのたびに確かめ直します。

担い手がいるかも確かめます。東京商工会議所が2025年1月10日に公表した調査（調査期間2024年10月15日〜11月15日、主に東京23区の中小企業、回答1,218社）で、口頭・電話・帳簿での業務が多いと答えた企業を除く1,002社の情報システム担当者の置き方は、専任の担当者がいる11.7%、兼任の担当者がいる43.9%、外部委託している15.0%、担当者はいない28.9%、不明0.5%でした（中小企業のデジタルシフト・DX実態調査 集計結果（詳細版））。

担当者がいない、または兼任の場合は、保守を外部に頼むことになります。頼む範囲（更新、障害のときの対応、部品の交換）と、止まったときにどれだけの時間で戻すかを、契約で決めます。そのうえで、ローカルで扱う情報を、切り離しが要るものだけに絞ると、保守の対象を小さくできます。

試す順番は、一つの部署・一種類の文書から

社内の規程や手順書で試すときに、読ませる文書の仕分けと、答えに根拠の文書名と箇所を付ける設計は「社内の文書をAIで引けるようにする前に」で解説しています。

最初から全社の決まりを作ろうとせず、一つの部署の、一種類の文書から始めます。質問が多く、答えの根拠になる文書がそろっている業務のほうが、試しやすく、結果も確かめやすくなります。

一種類の文書で「出せない」理由の振り分けができると、同じ部署のほかの文書も、同じ図で振り分けられます。切り離しが要る文書が一部だけなら、その文書だけをローカルで扱い、ほかは法人向けの契約や国内での処理で扱う、という分け方ができます。どの形でも、使い始める前に、入れてよい情報の決まりを社内に示しておきます。

Aurant Technologiesでは、「社外に出せない」の中身を分けるところから、入れてよい情報の決まりづくり、法人向けのプランと管理設定、機密のデータを分けて扱う構成の設計までをお手伝いしています。生成AIの使い方とツール・プランの選び方はAI活用支援のページで、ネットワークから切り離した環境でのローカルLLMやプライベートなAI環境の構築はセキュリティ・オンプレミス対応のページで紹介しています。