「社員にChatGPTを使わせたい。でも、顧客の情報や会社の数字が漏れたらどうする？」

当社が保険代理店向けのAIを説明したとき、大分県の代理店の代表から最初に言われたのも「情報漏洩が一番のリスクだ」ということでした。続けて聞かれたのは「機械を回収されたら、うちの情報を抜かれんの？」。経営者が怖いのは、AIそのものより「データがどこにあって、誰が見られるのか」です。

この記事では、生成AIの情報漏洩が不安な経営者・AI導入担当者に向けて、次の3つを解説します。

• 生成AIで情報漏洩が起きる5つの経路と、実際に起きた事例

• 守り方の3つの選択肢（社内ルールとマスキング／法人向けクラウドAI／ローカルAI）と、どれを選ぶかの基準

• 社内で対策を進める5ステップと、名前を伏せる仕組みを当社で試して分かった限界

書いたのは、これまで数十社にAIを導入してきた株式会社PLATINUM INTERACTION 代表取締役の佐藤圭達です。

この記事の結論

• 生成AIの情報漏洩は「入力した情報が社外のサーバーに渡ること」から始まります。 学習に使われるかどうかだけでなく、保存・乗っ取り・社員の個人利用まで含めて対策します。

• 守り方は3つ。1つを選ぶのではなく、業務ごとに使い分けます。 基準は「その情報でお客さんや社員を特定できるか」。特定できない仕事はルールを決めてクラウドAI、伏せたら仕事にならない情報はローカルAIで扱います。

• 名前を伏せる仕組みだけには頼れません。 当社の検証では、ルールによる自動チェックで止めるべき18件のうち8件がすり抜けました。最後は人が確認する前提で仕組みを作ります。

目次

1. 生成AIの情報漏洩とは？起きる5つの経路

2. 生成AIの情報漏洩対策は3つの選択肢｜ルールとマスキング・法人向けクラウドAI・ローカルAI

3. どれを選ぶ？基準は「その情報でお客さんや社員を特定できるか」

4. 名前を伏せる仕組みはどこまで効く？当社の検証で18件中8件がすり抜けた

5. 生成AIの情報漏洩対策の進め方5ステップ｜保険代理店での実例

6. 社内ルール（ガイドライン）に書く10項目

7. 生成AIの情報漏洩対策でよくある失敗4つ

8. 情報漏洩以外に押さえておきたい3つのリスク

9. 著者の見解：「怖いから使わない」ではなく「分けて使う」

10. よくある質問

11. まとめ｜今日10分でできること

12. 参考

この記事を書いた人

生成AIの情報漏洩とは？起きる5つの経路

生成AIの情報漏洩とは、ChatGPTなどに入力した顧客情報や社外秘が、自社の管理の外に出てしまうことです。 クラウドの生成AIでは、入力した文章はAI事業者のサーバーに送られて処理されます。その先で「学習に使われる」「保存されたデータが流出する」「アカウントを乗っ取られる」といった形で、漏洩につながります。

（上位の解説記事と公的資料をもとに当メディアで整理）

2026年秋に国内で公表された情報漏洩の事例

「本当に漏れるのか」の判断材料として、2026年9月以降に国内の大企業で公表された事例を挙げます（新しい順）。生成AIが原因のものには、上の5つの経路の番号を添えています。

（各社の発表と報道をもとに当メディアで整理。出典は記事末の「参考」）

生成AIが原因の2件は、どちらも社員が会社の認めていないAIにデータを入れたことから始まっています。同じ時期には佐川急便も不正アクセスで最大約5,323万件（重複を含む）の個人情報が流出した可能性を公表しており、AI以外の流出も含め、データが社外に出る経路を絞ることが対策の基本です。

IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」の組織編でも、「AIの利用をめぐるサイバーリスク」が3位で初めて選ばれました。もはや一部の大企業だけの話ではありません。

生成AIに入れてはいけない情報｜無料版と法人プランで線引きが違う

何を入れてよいかは、「その情報で人を特定できるか」「知られたら困るか」と、使うAIが無料・個人向けか法人プランかで決まります。当社が保険代理店の業務を整理したときも、個人情報を「なし」「顧客情報」「要配慮（要配慮個人情報＝病歴などの健康情報）」の3段階で分けました。

個人情報保護委員会も2023年6月の注意喚起で、事業者が個人データを含む指示文を入力する場合は、そのAIサービスが入力を学習に使わないことなどを十分に確認するよう求めています。本人の同意なく入力したデータが学習など応答以外の目的に使われると、個人情報保護法に違反するおそれがあるためです。

生成AIの情報漏洩対策は3つの選択肢｜ルールとマスキング・法人向けクラウドAI・ローカルAI

守り方は「社内ルールと入力前のマスキング」「法人向けのクラウドAI」「ローカルAI」の3つです。 違いは、データが社外に出るかどうかと、費用・手間のかかり方にあります。

選択肢①：社内ルールと入力前のマスキング

一番手軽なのは、入れてはいけない情報を決め、顧客の名前などを伏せてから入力する方法です。費用はほぼかからず、今日から始められます。

マスキングとは、名前や電話番号を「お客様名」「A社」のような記号に置き換えてからAIに渡すことです。手作業なら、AIに貼る前に文章を見直し、名前・電話番号・住所を置き換えます。戻ってきた文章には、自分で実名を戻します。

ただし、手作業のマスキングは漏れが起きやすい方法です。急いでいるときほど見落とします。そこで当社では、伏せる作業を仕組みにしました。

仕組みにした例（保険BOX）：保険BOXは、当社が保険代理店向けに提供しているAIの仕組みです（当社の製品であることを踏まえてお読みください）。次の流れにしています。

1. AIへの窓口を1つにする。依頼が来たら、まず社内のAIが「社内で処理するか、クラウドに出すか、伏せてから出すか」を判断する

2. 顧客の話が入る依頼は、名前を記号に置き換えてからクラウドAIに渡す

3. クラウドに出す前に確認の画面を出し、名前や電話番号のようなものが見つかったら自動で止める

4. 戻ってきた文章に、事務所の中で実名を戻す

5. 外に出した内容は、すべて「外部送信ログ」に残す

自動で伏せる仕組みでも、どこまで止められるかには限界があります（後の章で当社の検証結果を紹介します）。

選択肢②：法人向けクラウドAI（学習に使われない契約・設定）

ChatGPTなどの法人向けプランは、入力した内容を初期設定でAIの学習に使わないと公式に記載しています。管理者が社員のアカウントをまとめて管理でき、退職者をすぐ外せるのも利点です。

（2026年10月22日確認。会話をいつまで保存するかは、プランや管理者の設定で変わります。料金はたびたび改定されるため、この記事では載せていません。各社の公式ページで確認してください）

どれを選ぶか迷ったら、今使っているメールや表計算ソフトと同じ会社の法人プランから検討するのが近道です。すでにGoogle WorkspaceやMicrosoft 365を契約している会社は、まず自社のプランで生成AIの機能が使えるか、管理画面で確認してください。新しく契約するより、社員のアカウント管理をまとめやすくなります。

個人向けの無料版・有料版のChatGPTでも、設定で学習を止められます。法人プランを契約するまでのつなぎとして使う場合は、会社が設定を確認したアカウントで、前述の表の「入れてよい」情報だけに限ってください。設定の「データコントロール」にある「すべての人のためにモデルを改善する」をオフにすると、それ以降の会話は学習に使われません。また「一時チャット」は履歴に残らず学習にも使われませんが、安全のため最大30日間は保存される場合があります（いずれもOpenAI ヘルプより）。

注意したいのは、「学習に使われない」と「社外に送られない」は別の話だということです。法人プランでも、入力した文章はAI事業者のサーバーに送られて処理・保存されます。事業者に預けてよい情報かどうかは、自社で判断する必要があります。

選択肢③：ローカルAI（社内の機械の中だけで動かす）

ローカルAIとは、AIの本体を自社のPCやサーバーにダウンロードして動かす方法です。入力した文章が社外のサーバーに送られないため、伏せたら仕事にならない顧客情報や決算の数字も扱えます。仕組みはローカルLLMとは？クラウドAIとの違いと導入メリットで詳しく解説しています。

「性能が低くて使えないのでは」とよく聞かれますが、当社がメモリ16GBのMacBookで6種類のモデルを計144回テストしたところ、総合1位のGemma 4 12B（Googleが無料で公開しているAI）は、面談メモの要約を数秒で返し、日本語の品質採点でも5点満点中4.70でした（結果はローカルLLMおすすめ5選｜16GBのMacで実測）。

保険BOXでは、事務所に置くパソコン1台（GPUを積んだゲーミングPC・約25万円）の中で、音声の文字起こし、日報の振り分け、意向把握帳票（保険の契約前に顧客の希望を確認する書類）の下書きまでを動かしています。ただ、ローカルAIは毎回まったく同じ答えを返すわけではないため、下書きは必ず人が確認して承認する形にしています。

ローカルでも、機械そのものの管理は必要です。冒頭の「機械を回収されたら抜かれないか」という質問のとおり、盗難や廃棄に備えてディスクを暗号化し、置き場所と使える人を決めておきます。社内にIT担当がいない場合は、設置とAIの更新を導入業者に任せる形もあります（費用は内容によって変わります）。

どれを選ぶ？基準は「その情報でお客さんや社員を特定できるか」

3つのどれか1つを選ぶのではなく、業務ごとに使い分けます。 佐藤の基準は1つです。

「その情報でお客さんや社員を特定できるか、つまり機密情報に触れるかどうかです。調べものや営業文面、LPづくりのように機密に触れない仕事は、ルールを決めたうえでクラウドAIをそのまま使えばいい。顧客の名前が出てくる程度なら、名前を伏せてからクラウドに渡すやり方もあります。ただ、面談記録や年収・資産・健康の情報みたいに、伏せたら仕事にならない情報はローカルAIで処理する。3つのどれか1つを選ぶというより、業務ごとに使い分けるのが現実的です」（佐藤）

著者自身も、自社の経理をAIで効率化しようとしたとき、入出金や決算の情報をクラウドに読み込ませることに抵抗がありました。こうした「伏せたら意味がなくなる情報」があるかどうかが、ローカルAIを検討する分かれ目です。

名前を伏せる仕組みはどこまで効く？当社の検証で18件中8件がすり抜けた

自動のチェックだけでは、すべての個人情報は止められません。 当社の製品（保険BOX）の検証環境で、架空の顧客データを使った小規模なテストを行い、クラウドに送る前のチェックがどこまで効くかを試しました。

• 実施日：2026年10月22日

• 対象：「送信前チェック」（顧客名簿にある氏名や、電話番号・住所などを決まったルールで見つけて止める仕組み）と、ローカルAI（Gemma 4 12B）による匿名化

• 方法：クラウドに送りそうな依頼文21件（止めるべき18件・止めなくてよい3件）を入れ、止まるかどうかを見た。すり抜けたものは、ローカルAIに匿名化させて（各3回）もう一度チェックした

ルールだけでは18件中8件がすり抜け、ローカルAIの匿名化を重ねても2件が確認画面まで素通りしました。 法人顧客の会社名や、年収・資産のように「名前ではないが人を絞り込める情報」は、仕組みで見つけにくいということです。

だから保険BOXでは、クラウドに送る前に必ず人が送信内容を確認する画面を挟み、外に出したものはすべてログに残しています。自動のチェックは「人の見落としを減らす道具」であって、人の確認の代わりにはなりません。

この検証で試していないこと：実際の顧客データでの精度、21件以外の書き方（住所の書き方の揺れ、外国籍の方の氏名など）、Gemma 4 12B以外のモデルでの匿名化。

生成AIの情報漏洩対策の進め方5ステップ｜保険代理店での実例

モデルやツール選びから始めず、業務の書き出しから始めます。 当社が保険代理店で実際に進めた順番を、他の業種でも使える形に整理しました。

STEP1：業務を書き出し、個人情報のラベルを付ける

まず会社の仕事を一覧にします。保険代理店では、集客から契約後の手続き、事務までを1つずつ並べ、それぞれに「AI化しやすいか」と「個人情報が入るか（なし／顧客情報／要配慮）」のラベルを付けました。この一覧（業務マップ）が、後のすべての判断の土台になります。

STEP2：入れていい情報・ダメな情報のルールを決める

業務マップをもとに、前述の「入れてはいけない情報」の表のような社内ルールを決めます。書く項目は次の章で紹介します。

STEP3：使ってよい道具を用意する

社員が個人のアカウントで使わなくて済むように、会社として道具を用意します。機密に触れない業務は法人プランのクラウドAI、伏せたら仕事にならない業務はローカルAI、という分け方です。

保険代理店では、個人情報が入らない仕事から先にAIを使い始め、次に顧客の基本情報、最後に健康情報が絡む仕事という順番にしました。健康情報が絡むところは、保険会社の規程を確認してからでないと手を付けない、と決めていました。

STEP4：送信前の確認と外部送信ログを入れる

クラウドに出す前に内容を確認する手順と、何を外に出したかの記録（ログ）を用意します。専用の仕組みがない会社でも、次の2つならすぐ始められます。

• 送る前に見直す：顧客に関わる依頼は、貼り付ける前に名前・番号・金額が残っていないかを見直す。迷ったら責任者に聞く

• 共有の表に記録する：顧客に関わる依頼をクラウドAIに出したときは、日付・担当者・何の作業かを1行ずつ残す

大企業では、DLP（機密情報の持ち出しを検知するツール）やCASB（クラウドの利用を監視するツール）、URLフィルタで社員の利用を管理する方法もあります。

STEP5：月に1回見直し、社員と共有する

最初の説明会では、次の3点だけを伝えます。

1. 入れてはいけない情報（前述の表を1枚にして配る）

2. 使ってよい道具（会社が用意したアカウントだけ）

3. 迷ったとき・誤って入力したときに聞く相手

そのあとは月に1回、記録を見てルールで想定していない入力がないかを確かめ、実際の入力例をもとに社員と共有します。研修を一度やって終わりにするより、身近な例で繰り返すほうが身につきます。

なお、各ステップにかかる期間は会社の規模や業務の数で大きく変わるため、この記事では当社の実績としての目安は出していません。

社内ルール（ガイドライン）に書く10項目

社内ルールは、細かい規程よりも「何を入れてはいけないか」が一目で分かることが大切です。 経済産業省・総務省の「AI事業者ガイドライン」（最新は2026年3月の第1.2版）もAIを使う側の責任に触れていますが、中小企業がまず決めるのは次の10項目です。

生成AIの情報漏洩対策でよくある失敗4つ

一番多いのは、怖いからといって全面禁止にしてしまうことです。 佐藤が支援先や自社で見てきた失敗を4つ紹介します。

失敗1：全面禁止にして、見えないところで使われる

「禁止しても社員は自分のスマホで使うので、かえって見えないところで情報が出ていきます」（佐藤）

禁止すると、会社は「誰が何を入力したか」を把握できなくなります。大企業なら、利用を監視する仕組みや社内専用のAIを用意したうえで禁止することもできますが、中小企業では見えない利用が増えるだけになりがちです。使ってよい道具とルールを用意するほうが、結果的に漏洩を減らせます。

すでに社員が個人で使っているかどうかは、まず責めない前提でアンケートを取って聞くのが手軽です。使っている業務が分かれば、そこから会社の道具に切り替えられます。

失敗2：仕組みを確かめずに「外に出さないから安全」と言い切る

「説明と実態がずれているのが一番危ないと思っています」（佐藤）

「ローカルだから安全」「学習オフだから安全」と説明していても、実際には一部の機能がクラウドで動いている、ということは起こりえます。どの処理がどこで行われているかを、仕組みのレベルで確かめてから説明します。

失敗3：AIだけ気を付けて、データの置き場所を忘れる

「スプレッドシートやクラウドのツールに置いた時点で、データはもう社外のサーバーにあります。AIだけ気を付けても意味がないんですよね」（佐藤）

クラウドのツールをやめる必要はありません。AIと同じように、置き場所も含めて「この会社に預けてよい情報か」を判断し、共有の範囲を絞ります。

失敗4：会社として顧客情報をクラウドAIに渡していた

社員が黙って使っていたのではなく、会社の業務として顧客情報をクラウドAIに渡して処理していた例もありました。その場合はまずクラウドAIへの機密情報の送信を止め、ローカルAIへの移行を検討するか、機密情報の保存先を社内のファイルに移す対応から始めます。

情報漏洩以外に押さえておきたい3つのリスク

生成AIには、情報漏洩のほかにも「間違い」「権利」「悪用」のリスクがあります。 社内ルールを作るときに一緒に決めておきます。

• もっともらしい間違い（ハルシネーション）：AIは事実と違う内容を自然な文章で返すことがある。数字や制度の説明は必ず元の資料で確かめる

• 著作権・商標：生成した文章や画像が、他人の作品に似てしまうことがある。社外に出すものは人が確認する

• AIを悪用した攻撃：自然な日本語のなりすましメールや、文書に仕込んだ命令でAIをだます手口（プロンプトインジェクション）。AIに読ませる文書やフォルダの範囲を絞る

著者の見解：「怖いから使わない」ではなく「分けて使う」

経営者の方はだいたい、AIそのものよりデータの行き先が怖いのだと思います。だからこそ、最初にやるべきは道具選びではなく、自社の業務のどこに人を特定できる情報があるかを書き出すことです。

機密に触れない業務は、ルールを決めれば今日からクラウドAIで始められます。機密に触れる業務は、伏せて出すのか、法人プランに預けるのか、社内の機械で処理するのかを決めてから使う。この順番を守れば、漏洩の心配と「AIを使えないもどかしさ」の両方を減らせます。

利益相反の開示：当社は保険代理店向けのローカルAI「保険BOX」を提供しています。

よくある質問

Q. ChatGPTに入力した情報は、他の人に見られますか？

A. 入力した内容が、そのまま他の利用者の画面に表示されるわけではありません。ただし、学習に使われる設定のままだと、似た内容が他の人への回答に出るおそれがあります。また、AI事業者側のトラブルやアカウントの乗っ取りで、他人に見られることがあります。

Q. 学習オフ（オプトアウト）にすれば安全ですか？

A. 学習には使われなくなりますが、入力した文章はAI事業者のサーバーに送られ、保存されます。一時チャットでも最大30日間は保存される場合があります。人を特定できる情報は、学習オフでも入れないか、伏せてから入れてください。

Q. 法人向けプランなら、顧客情報を入れても大丈夫ですか？

A. 法人向けプランは初期設定で学習に使われませんが、データは社外のサーバーで処理されます。個人情報保護委員会の注意喚起のとおり、利用目的の範囲内か、事業者がどう扱うかを確認したうえで判断してください。健康情報など特に慎重に扱うべき情報は、社内で処理する方法を検討します。

Q. 社内で生成AIを全面禁止にするべきですか？

A. おすすめしません。社員が個人のスマホで使い始め、会社が把握できなくなるからです（詳しくは「よくある失敗」の失敗1）。

Q. 名前を伏せれば、顧客の情報をクラウドに渡してもいいですか？

A. 名前を伏せても、会社名と役職、年収と家族構成などの組み合わせで人が絞り込める場合があります。当社の検証でも、会社名や年収は自動のチェックをすり抜けました。送る前に人が確認する手順を必ず入れてください。

Q. ローカルAIなら情報漏洩はゼロになりますか？

A. 入力が社外に送られない点では安全ですが、機械の盗難や廃棄、社内の誰でも使える状態、クラウドで動く機能をうっかり使う設定ミスなどのリスクは残ります。ディスクの暗号化と、使える人の管理が必要です。

Q. 誤って顧客情報を入力してしまったら、どうすればいいですか？

A. まず社内の報告先に知らせ、何を・いつ・どのサービスに入力したかを記録します。会話を削除し、必要に応じて事業者に問い合わせます。健康情報などが含まれ、漏洩のおそれがある場合は、個人情報保護法にもとづく個人情報保護委員会への報告と本人への通知が必要になることがあります。対応が遅れると、委員会からの指導だけでなく、顧客からの信用も失います。

Q. 小さな会社でも対策は必要ですか？

A. 必要です。むしろ情報管理の担当者がいない会社ほど、社員が個人の判断でAIを使いがちです。まずは業務の書き出しと、入れてはいけない情報のルールだけでも決めてください。

まとめ｜今日10分でできること

• 生成AIの情報漏洩は、「AIの学習データ」「AI事業者のサーバー」「乗っ取られたアカウント」「社員の個人アカウント（シャドーAI）」「AIとつないだ社内ツール」の5つの経路で起きる

• 守り方は「社内ルールとマスキング」「法人向けクラウドAI」「ローカルAI」の3つ。業務ごとに使い分ける

• 基準は「その情報でお客さんや社員を特定できるか」。伏せたら仕事にならない情報はローカルAIで

• 「学習に使われない」と「社外に送られない」は別。法人プランでもデータは社外で処理される

• 名前を伏せる自動の仕組みでも漏れはある。送る前に人が確認し、ログを残す

今日10分でできるのは、自分の業務をざっと書き出し、「お客さんや社員を特定できる情報を扱うか」で2つに分けることです。扱わない方は、ルールを決めれば今日からクラウドAIで始められます。扱う方は、まだAIに入れず、どう処理するかを決めてからにしてください。会社全体でAIを使う進め方は、全社AIとは？で紹介しています。

自社の業務のどこをローカルAIにし、どこをクラウドAIにするか迷ったら、お問い合わせフォームからお気軽にご相談ください。

参考

• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月2日） https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/

• IPA「情報セキュリティ10大脅威 2026」 https://www.ipa.go.jp/security/10threats/10threats2026.html

• 経済産業省「AI事業者ガイドライン検討会」（AI事業者ガイドライン 第1.2版 2026年3月31日） https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html

• パナソニック オペレーショナルエクセレンス「外部生成AIサービスへの個人情報アップロードに関するお詫びとお知らせ」（2026年10月23日） https://holdings.panasonic/jp/information/topics/20261023.html

• ITmedia NEWS「パナソニックHD子会社、使用禁止の生成AIに従業員約33万人分の個人情報をアップロード」（2026年10月23日） https://www.itmedia.co.jp/news/article/2610/23/2000002562/

• GMOインターネットグループ・GMOインターネット「【重要】『お名前.com デスクトップクラウド』への不正アクセスに関するお詫びとお知らせ（第3報）」（2026年10月23日） https://group.gmo/info/alert/20261023/

• GMOインターネットグループ「連結子会社GMOインターネット株式会社における不正アクセスに伴うお客様へのお見舞金のお支払いおよび不正取引による損失の補償に関するお知らせ」（2026年10月24日・適時開示） https://group.gmo/ir_news/article/896/

• パーク24「『タイムズカーWebシステム』への不正アクセスによる個人情報漏えいに関するご報告と今後の対応について（第5報）」（2026年10月23日） https://share.timescar.jp/news/2026/1023/1825.html

• 旭化成「元従業員の逮捕について」（2026年9月17日） https://www.asahi-kasei.com/jp/news/2026/ze260917

• 時事ドットコム「半導体の材料情報を漏えい容疑 中国企業に流出か 元旭化成社員を逮捕―愛知県警」（2026年10月7日） https://www.jiji.com/jc/article?k=2026100700828&g=soc

• RIZAP株式会社「当社における外部生成AIサービスへのお客様情報の誤ったアップロードに関するお詫びとお知らせ」（2026年9月3日） https://business.rizap.jp/news/2492

• 地方職員共済組合「委託先における個人情報漏えいの可能性のある事案の発生について」（2026年9月4日） https://www.chikyosai.or.jp/info/pdf/info_260904.pdf

• 東洋経済オンライン「『約2万人流出』を明かしたのは委託元だった…ライザップの"シャドーAI"による情報漏洩で露呈した不透明な対応」（2026年9月10日） https://toyokeizai.net/articles/-/957435

• 佐川急便「『お荷物問い合わせサービス』の再開および個人情報の流出に関する調査状況について（第5報）」（2026年10月23日） https://www2.sagawa-exp.co.jp/information/detail/430/

• OpenAI ヘルプ「Data controls in ChatGPT」 https://help.openai.com/en/articles/7730893-data-controls-faq

• OpenAI「Enterprise privacy at OpenAI」 https://openai.com/enterprise-privacy/

• Google「Google Workspace の生成 AI に関するプライバシー ハブ」 https://support.google.com/a/answer/15706919?hl=ja

• Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」 https://learn.microsoft.com/ja-jp/microsoft-365/copilot/microsoft-365-copilot-privacy

（いずれも2026年10月22日確認。事例の出典は2026年10月24日確認）