• 作成日 : 2026年9月28日

生成AIの情報漏洩事例は？原因とバックオフィスが今すぐできる対策を解説

生成AIの情報漏洩事例は、ChatGPTをはじめとする主要な生成AIサービスですでに複数報告されています。本記事では、代表的なChatGPT情報漏洩の事例と発生原因を整理したうえで、バックオフィス担当者がすぐに実践できるデータ流出対策と、社内ガイドラインの作り方までを解説します。仕組みを正しく理解すれば、生成AIによる情報漏えいリスクを抑えながら業務効率化を進められるでしょう。

生成AIの情報漏洩事例は？

生成AIの情報漏洩事例は、ChatGPTのような大手サービスでも実際に発生しており、入力データの流出とシステム側の不具合の両方が原因になっています。国内外の企業で報告された事例を把握しておくことは、自社の生成AI利用ルールを見直すきっかけになるでしょう。

サムスンの機密ソースコードが流出した事例

サムスン電子の半導体部門では、従業員がChatGPTに機密ソースコードや社内会議のメモを入力したことで、社外のサービスに情報が渡った事例が報告されています。

2023年3月11日、サムスンの半導体部門はChatGPTの業務利用を許可しました。しかし、韓国の経済メディアの報道によれば、許可からおよそ20日後の3月30日までに、エンジニアがソースコードのデバッグや会議録の要約をChatGPTに依頼したことによる情報漏洩が3件確認されたとされています。この報道を受け、サムスンは5月にChatGPTなど生成AIツールの社内利用を禁止する方針を発表しました。原因は、社内にAI利用ガイドラインやセキュリティポリシーが整備されておらず、機密データがそのまま外部サービスに送信されてしまったことにあります。

ChatGPTの情報漏洩事例：チャット履歴が他ユーザーに表示されたバグ

2023年3月、ChatGPTのシステムバグにより、一部ユーザーの氏名やクレジットカード情報の一部が別のユーザーに表示される事故が発生しました。

OpenAIの公式発表によれば、原因はオープンソースライブラリ「redis-py」の不具合で、2023年3月20日の特定の9時間の間にアクティブだったChatGPT Plusユーザーのうち約1.2%について、氏名・メールアドレス・支払い先住所・クレジットカード番号の下4桁・有効期限が、別のユーザーに表示され得る状態になっていたとのことです。なお、クレジットカード番号全体が露出したことはないと公表されています。この事故は利用者側の操作ミスではなく、サービス提供側のシステム障害でも情報漏洩が起こりうることを示した事例といえるでしょう。

参考：March 20 ChatGPT outage: Here’s what happened｜OpenAI

AIの基礎知識 | 人工知能・AIを活用した、様々な業務...

ChatGPTのセキュリティリスクとは？機密情報漏洩を防ぐ対策も解説 | マネーフォワ...

ChatGPTは、業務効率化に役立つ強力なAIツールである一方、セキュリティリスクを適切に管理しなければ、情報漏洩や不正利用につながる危険性があります。 企業がChatGPTを安全に活用するためには、具体的なリスクを理解し、適切なセキュリティ設定と運用ルー…

ChatGPTアカウント情報がダークウェブに流出した事例

シンガポールのセキュリティ企業Group-IBは、マルウェアに感染した端末から窃取されたChatGPTのアカウント情報が、ダークウェブ上の売買サイトで多数確認されたと発表しました。

同社の発表によれば、2022年6月から2023年5月までの間に、ChatGPTの認証情報を保存した状態でマルウェアに感染した端末が101,134件確認され、2023年5月には月間で26,802件のログがピークとして検出されたとのことです。感染経路の多くは、いわゆる情報窃取型マルウェア（インフォスティーラー）で、地域別ではアジア太平洋地域での検出数が最も多かったと報告されています。アカウントが乗っ取られると、過去のチャット履歴に含まれる業務上の機密情報まで第三者に閲覧される恐れがあるため、生成AIのセキュリティ対策はサービス提供側だけでなく、利用者側の端末管理やパスワード管理も欠かせないことがわかる事例です。

参考：Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces｜Group-IB

生成AIで情報漏洩が起きる原因は？

生成AIの情報漏洩は、大きく「入力データの学習利用」と「外部からの攻撃」という2つの経路で起こります。それぞれの仕組みを理解しておくと、どの場面で注意すべきかが明確になります。

入力データがAIの学習に使われる仕組みを知る

ChatGPTをはじめとする多くの生成AIサービスでは、初期設定のままだと入力したテキストがモデルの改善・学習に利用される場合があります。

OpenAIの公式説明によれば、無料版・Plus版のアカウントは「すべての人のためにモデルを改善する（Improve the model for everyone）」という設定が有効になっている場合、ユーザーが入力した会話内容がモデルのトレーニングに利用されることがあるとされています。一方、ChatGPT Team・Enterprise・Education、およびAPI経由の利用では、デフォルトで入力データが学習に使われません。つまり、業務で扱う顧客リストや売上データをそのまま無料版・Plus版に入力すると、その情報がAIモデルの学習データに取り込まれるリスクがあるということです。「便利だから」と深く考えずにコピー＆ペーストする行為が、生成AIの情報漏えいの入り口になりえます。

参考：How ChatGPT learns about the world while protecting privacy｜OpenAI

プロンプトインジェクション攻撃を受けるリスクがある

プロンプトインジェクションとは、生成AIに悪意ある指示を直接または間接的に読み込ませ、開発者が想定していない動作を引き起こす攻撃です。機密情報の出力だけでなく、外部ツールの不正操作や本来実行すべきでない処理につながる場合もあります。

自社で生成AIを組み込んだチャットボットを社外向けに提供している場合、外部のユーザーが巧妙な問いかけによって内部設定やバックエンドの情報を引き出そうとするケースが想定されます。プロンプトインジェクションはシステムの脆弱性を突く攻撃であるため、入出力のバリデーションやアクセス権限の最小化や外部ツール実行時の承認、ログ監視などを組み合わせることが重要です。自社サービスに生成AIを組み込む企業ほど見落としがちなリスクといえるでしょう。

生成AIによる情報漏洩の原因を整理すると、以下のとおりです。

バックオフィスで起きやすい生成AIの漏洩リスクは？

バックオフィスでは、履歴書・未公開の財務データ・契約書といった機密性の高い書類を、匿名化せずに生成AIへ入力してしまうケースが主なリスクです。人事・経理・総務の現場では、意識しないまま機密データを外部サービスに送信してしまうことが少なくありません。

履歴書データをそのまま入力してしまうケース

採用業務で応募者の履歴書や職務経歴書をChatGPTに貼り付け、候補者の強みの要約や不採用理由の文面作成を依頼するケースが想定されます。

履歴書には氏名・住所・電話番号・学歴・職歴といった個人情報が含まれています。これをそのまま入力すると、個人情報の保護に関する法律における第三者提供の制限に抵触する恐れがあります。回避策としては、氏名・住所など本人を直接識別できる情報を削除・置換し、業務上必要のない個人情報をできる限り除外する手順を業務フローに組み込むとよいでしょう。

参考：個人情報の保護に関する法律についてのガイドライン（第三者提供時の確認・記録義務編）｜個人情報保護委員会

未公開の財務データを貼り付けてしまうケース

四半期の売上データや資金繰り表など、未公開の財務情報をそのまま生成AIに読み込ませて分析させるケースも見受けられます。

未公開の財務情報は、営業秘密や社内機密に該当する可能性があるほか、取引先から取得した情報であればNDAなどの契約上の義務にも注意が必要です。上場会社の未公表の重要事実を扱う場合は、社内の情報管理規程やインサイダー情報管理の観点からも慎重な取扱いが求められます。。財務データを扱う際は、金額をダミー数値に置き換えるか、学習に利用されない社内ネットワーク完結型のAIツールを利用するなど、データガバナンスを意識した運用が安全です。

契約書の社名・金額入りで読み込ませてしまうケース

契約書のドラフトチェックやリーガルチェックを生成AIに依頼する場面も増えています。ただし、取引先の社名・代表者名・契約金額・契約条件がそのまま含まれたPDFやテキストをアップロードすると、営業秘密の漏洩につながりかねません。

対策としては、社名を「甲」「乙」に、金額を「○○万円」に置き換え、契約形態の確認に必要な条文構造のみを入力する方法が有効です。

契約の基礎知識 | 電子契約「マネーフォワード クラ...

ChatGPTで契約書レビューは可能？注意すべきリスクやプロンプト例20選を紹介 | 電...

ChatGPTを活用した契約書レビューに関心が高まっています。AIによる契約書チェックは、使い方次第で業務を大幅に効率化できる一方、情報漏洩や専門性の欠如といったリスクも伴います。 本記事では、ChatGPTで契約書レビューがどこまで可能なのか、その際に注…

バックオフィスでありがちなリスクと回避策を整理すると、以下のようになります。

生成AIの情報漏洩を防ぐための対策は？

生成AIの情報漏洩対策は、費用をかけずにすぐ始められます。無料で設定できるオプトアウト機能から、法人向けプランの活用まで、段階的に取り組める方法を紹介します。

オプトアウト設定で学習を停止できる

ChatGPTでは、設定画面から学習利用をオフにすることで、入力データがモデルの学習に使われなくなります。

この設定は無料版でも利用でき、費用は一切かかりません。Google GeminiやMicrosoft Copilotなど他の生成AIサービスにも同様のオプトアウト機能があるため、利用中のサービスごとに確認しておくとよいでしょう。ただし、OpenAIの公式ヘルプによれば、この設定をオフにしても、削除された会話データは不正利用の監視目的で最長30日間サーバー上に保持されるとされています。「オプトアウト＝データが即座に一切残らない」わけではない点に注意が必要です。

参考：Data Controls FAQ｜OpenAI Help Center

API・法人プランで安全性を高められる

より高いセキュリティが求められる場合は、APIやChatGPT Business（旧Teamプラン）・Enterpriseプランの導入が選択肢になります。

ChatGPT BusinessやEnterpriseプランでは、入力データがモデルトレーニングに一切使用されないことが利用規約で明記されています。API経由の利用も同様で、デフォルトで学習対象外です。2026年8月時点で、ChatGPT Businessの料金は年払いで1人あたり月額約20ドルとなっており、情報漏洩による損害賠償や信用失墜のリスクと比較すると、費用対効果を検討する余地があります。

入力前に個人情報を匿名化する

プランの変更が難しい場合でも、入力データの匿名化は今日からできる対策です。

STEP1．入力するテキストから氏名・住所・電話番号・メールアドレスを抽出する STEP2．氏名を「Aさん」「Bさん」、企業名を「X社」「Y社」に置き換える STEP3．金額は「約○万円」やダミー数値に変更する STEP4．AIの出力結果を社内で使用する際に、元の情報に戻す

ExcelやGoogleスプレッドシート（Googleスプレッドシート）の置換機能を使えば、氏名・社名などをまとめてマスキングできます。あらかじめマクロを組んでおけば、作業時間は数分で済むでしょう。

生成AI利用ガイドラインの作り方は？

社内ガイドラインは、A4用紙1枚に収まる程度のルールから始めるのが効果的です。ルールを明文化し、セキュリティポリシーとして周知することで、現場での判断のばらつきを減らせます。

機密情報の入力禁止ルールを明文化する

ガイドラインの核となるのは「何を入力してはいけないか」の明確化です。以下のような項目を禁止リストとして定めておくと、従業員が判断に迷う場面が減ります。

「個人情報は入力禁止」だけでは範囲が曖昧になりがちです。上記のように項目を列挙しておくと、現場で「これは入力してよいのか」と迷ったときの判断基準になります。

生成結果のファクトチェックを義務化する

生成AIは事実と異なる情報を出力するハルシネーション（AIが事実に基づかない内容をもっともらしく生成してしまう現象）を起こすことがあります。法令の条文や税率、取引先の情報など、正確性が求められるデータをAIの出力だけで確定させるのは危険です。

ファクトチェックのルールとして、以下の運用を取り入れるとよいでしょう。

ガイドラインには、利用可能なツールの範囲や違反時の対応フローもあわせて盛り込むと実効性が高まります。

ガイドラインは作って終わりではなく、定期的な見直しが理想です。総務省・経済産業省は2024年4月に「AI事業者ガイドライン（第1.0版）」を公表し、その後も改定を重ねて2026年3月には第1.2版が公表されています。生成AIのサービス仕様は頻繁に変わるため、最新の利用規約やガイドラインの改定内容を反映し続けることで、社内ルールの実効性が保たれます。

参考：「AI事業者ガイドライン（第1.0版）」を取りまとめました｜経済産業省

生成AIの情報漏洩に関するよくある質問

生成AIの情報漏洩に関するよくある質問をまとめました。

無料版と有料版で安全性は変わる？

変わります。無料版はデフォルトで入力データがモデルの学習に利用される設定になっている一方、ChatGPT BusinessやEnterprise、API経由ではデータが学習に使われません。無料版でもオプトアウト設定をオンにすれば学習利用を停止できるため、「まず無料版のオプトアウトを設定し、利用頻度が高まったら法人プランへ移行する」という段階的な対応が現実的でしょう。

生成AIを全面禁止にすべき？

全面禁止はリスク回避にはなるものの、業務効率化の機会損失が大きく、従業員が個人端末で無許可利用する「シャドーIT」（会社が把握していないツールやサービスを従業員が勝手に使う行為）を招きやすくなります。管理の目が届かない分、かえって漏洩リスクが高まるため、「禁止」ではなく「安全な利用環境を整備する」方向で検討するほうがリスクと効率のバランスをとりやすいといえるでしょう。

生成AIに入力したデータを後から削除できる？

削除は可能です。ChatGPTでは対象の会話を削除すると画面上からは即座に非表示になり、OpenAIの公式ヘルプによれば、システム上からも原則30日以内に完全に削除されるとされています。ただし、法令や不正利用調査のために保持が必要な場合は、この限りではありません。

オプトアウト設定をしても過去の入力データは学習に使われる？

オプトアウト設定は、設定を変更した以降の新しい会話にのみ適用されます。設定をオンにする前にすでに学習データとして取り込まれた内容までは、遡って除外されるわけではありません。過去に機密情報を入力してしまった場合は、OpenAIのプライバシーリクエスト窓口から個別に削除申請を行う方法もあります。

生成AIの利用で個人情報保護法に違反する可能性はある？

可能性はあります。個人を特定できる情報を本人の同意なく生成AIに入力し、それが外部の学習データとして扱われる状態になった場合、第三者提供の制限に抵触するおそれがあります。入力前の匿名化やオプトアウト設定の徹底に加え、社内ガイドラインで入力禁止データを明確にしておくことが、法令違反のリスク管理につながります。

参考：生成AIサービスの利用に関する注意喚起等について（案）｜個人情報保護委員会

生成AIの情報漏洩リスクを把握して安全に活用するために

生成AIの情報漏洩事例は、入力データの学習利用やシステムの不具合、端末へのマルウェア感染など、複数の経路で発生しています。履歴書や財務データ・契約書を入力する前に匿名化する習慣を持ち、オプトアウト設定や法人向けプランの活用など自社の運用に合った対策を組み合わせることで、生成AIによる情報漏えいリスクを抑えながら業務効率化を進められるでしょう。

• 監修：高萩雄空輝（ITエンジニア/IT・AIメディアライター/SEOコンサルタント）

  ITエンジニアとして、Javaによる業務アプリケーション開発やデータベースの保守・運用に従事。その後、IT分野の知見を基盤として、AI・機械学習・生成AI分野を専門的に学習し、SEOコンサルタント／Webライターとして独立。専門性を生かし、大手プログラミングスクールにて、トレンドや最新情報を反映したIT技術・AIに関する記名記事を多数執筆している。現在は、ITとAIの基礎理解を前提としたファクトチェックや表現の妥当性検証、過度な自動化を避けたAI活用設計を強みとし、生成AI活用記事の監修や品質基準の策定も行っている。