近年、多くの企業で導入が進む生成AIは、業務効率を飛躍的に高める一方で、情報漏洩リスクという新たな課題も抱えています。この記事では、AIによる情報漏洩がなぜ起こるのか、その原因と具体的な対策、そして実際に起きた被害事例について詳しく解説します。
生成AIによる情報漏洩のリスクと近年の動向
本記事でいう「生成AI」とは、ChatGPTやGeminiなど、文章や画像、プログラムコードなどを自動生成するAIサービスや、その基盤となる技術を指します。近年、業務効率化や生産性向上を目的に、こうした生成AIを業務に利用する企業が増えています。
「AIによる情報漏洩」とは、生成AIやAIを活用したシステムの利用をきっかけとして、本来は外部に出るべきではない企業の機密情報や個人情報が、意図せず第三者に開示・流出してしまう状態を指します。
具体的には下記のようなケースがあり得ます。
生成AIをきっかけに情報漏洩が起こる代表的なケース
- 従業員が業務データを外部のAIサービスに入力してしまうケース
- AIシステムの不具合や設定ミスによって情報が他の利用者から閲覧可能になるケース
- AIを利用する環境がサイバー攻撃を受けて情報が窃取されるケース
このように、AIによる情報漏洩リスクは1つの原因で発生するものではなく、技術・設定・運用・人の行動といった複数の要因が組み合わさって顕在化します。
そのため重要なのは、AIが勝手に情報を盗み出すのではなく、「AIを利用する過程」や「その周辺のシステム・運用の不備をきっかけ」として情報漏洩が発生する点にあります。
つまり、AIそのものの問題だけでなく、「どのようにAIを使うか」「どのような環境で運用しているか」が、情報漏洩リスクの大きさを左右すると言えます。
情報漏洩への懸念も高まっている
AIの活用が広がる一方で、多くの企業がそのセキュリティリスクに懸念を抱いています。NTTデータグループの調査（Global GenAI Report）では、経営層の約9割が、生成AIの導入に伴うセキュリティリスクに懸念を示していると報告されています。
実際に、従業員が機密情報を外部のAIサービスに入力してしまうことによる情報漏洩リスクや、生成AIの利用をきっかけとしたセキュリティインシデントへの警戒感も高まっており、企業の中には、社内での利用を制限・禁止する判断に踏み切るケースも見られます。
生成AIの主なメリットとリスクの例
以下は、生成AIの業務利用にあたって期待される主なメリットと、あわせて考慮すべき代表的なリスクの例です。両者は必ずしも一対一で対応するものではなく、利用の仕方や運用体制によって影響の現れ方は異なります。
- 生産性の向上
- 業務効率化
- 新規事業の創出
- 顧客対応の自動化
- 機密情報の漏洩
- 誤った情報（ハルシネーション）の生成
- サイバー攻撃への悪用
- 著作権・プライバシーの侵害
生成AIの業務利用の拡大
総務省の調査によると、日本企業における業務での生成AI利用率は55.2％となっており、すでに過半数の企業が何らかの形で生成AIを業務に活用しています。AI利用率は米国やドイツ、中国では9割を超えており、海外と比較しても、日本では今後さらに利用が広がる余地が大きい状況にあります。
実際の活用分野も、社内向けヘルプデスク、文書作成やメール対応、企画・アイデア出し、プログラムコードの作成・修正、顧客対応、広報コンテンツ作成など、幅広い業務に及んでいます。
さらに、業務効率化や人手不足の解消といった効果を期待する声も多く、生成AIは今後、日常業務の中でより広く使われていくとうかがえます。
参考：総務省「令和7年版 情報通信白書 企業における業務での生成AI利用率（業務別・国別）」
各国で進む法整備とガイドライン
生成AIがもたらすリスクに対し、世界各国で規制やルール作りの動きが進んでいます。EUでは包括的なAI規制法である「EU AI Act」が成立し、AIシステムをリスクレベルに応じて分類したうえで、高リスクと位置づけられるAIに対しては厳格な要件を課す枠組みが整備されています。
一方、日本では、総務省と経済産業省が「AI事業者ガイドライン」を公表し、AIの開発者や提供者、利用者に対して、適切なリスク管理や運用のあり方についての指針を示しています。
このように、法規制とガイドラインの両面から、AIを安全に利用するための社会的な基盤整備が進められています。
参考：欧州理事会「Artificialintelligence(AI)act:CouncilgivesfinalgreenlighttothefirstworldwiderulesonAI」
参考：経済産業省「「AI事業者ガイドライン（第1.0版）」を取りまとめました」
AIで情報漏洩が起こる主な原因
AIによる情報漏洩のリスクには、企業の運用やルール次第で抑えられるものと、サービスの仕様や外部要因によって利用者側では完全にコントロールできないものがあります。実際のインシデントは、こうした性質の異なる要因が単独、あるいは複数重なって発生するケースが少なくありません。ここでは、原因を性質の違いに着目して整理します。
①運用やルール次第で抑えられるリスク
ここで取り上げるリスクは、サービスの使い方や社内ルール、運用体制の整備によって、企業側の運用である程度コントロール可能なリスクです。適切なルール策定や教育、運用管理を行うことで、発生確率や影響を大きく下げることができます。
原因1：入力データの取り扱い
多くの生成AIサービスでは、ユーザーが入力した情報（プロンプト）が、サービスの品質向上や不具合調査などの目的で、ログの保存や分析、学習データとして利用される場合があります。業務上の機密情報や顧客の個人情報を入力してしまうと、これらの情報がサービス事業者側に蓄積され、運用上のミスや障害、管理不備などをきっかけに、第三者に閲覧されてしまうリスクがあります。入力してよい情報の範囲を定めないまま利用することが、情報漏洩につながる原因の一つとなります。
原因2：従業員のセキュリティ意識の不足
技術的な対策を講じていても、利用する従業員の行動によっては、情報漏洩のリスクが高まってしまうことがあります。例えば、推測されやすいパスワードの使い回しや、会社の許可なく個人アカウントでAIサービスを利用する（いわゆるシャドーIT）、業務上の機密情報や個人情報を生成AIに安易に入力してしまうといった行為は、結果として重大なセキュリティインシデントにつながるおそれがあります。
②利用者側では完全にコントロールできないリスク
ここで取り上げるリスクは、生成AIサービスの仕様やシステム上の問題、外部からの攻撃など、利用者側の運用だけでは完全に防ぐことが難しいリスクです。そのため、リスクの存在を前提にした備えや、影響を最小化するための対策が重要になります。
原因3：システムのバグや脆弱性
生成AIは比較的新しい技術であり、そのシステムには予期せぬバグや脆弱性が残っている可能性があります。実際に、過去にはChatGPTにおいて、あるユーザーのチャット履歴のタイトルが、別のユーザーの画面に表示されてしまうというインシデントが発生しました。
このように、プログラム上の不具合や設計上の問題によって、本来は保護されるべき情報が外部から閲覧可能な状態になってしまうリスクがあります。
参考：OpenAI「March 20 ChatGPT outage: Here’s what happened」
原因4：悪意のある第三者によるサイバー攻撃
生成AIやその周辺システムは、サイバー攻撃者にとっても標的となり得ます。例えば、「プロンプトインジェクション」と呼ばれる攻撃手法では、攻撃者が悪意のある指示（プロンプト）を入力することで、AIに本来想定されていない動作をさせ、内部情報の取得や不適切な情報の出力を引き起こすおそれがあります。
このような攻撃は、AIを業務システムと連携させて利用している場合に、特にリスクが高まるとされています。
また、生成AIサービスのデータベースや管理システム自体が不正アクセスの対象となり、ユーザーデータや設定情報が外部に流出するリスクも考えられます。
【事例】生成AIによる情報漏洩の被害ケース
実際に起きた事例を知ることは、生成AIに関するリスクの現実的な姿を理解し、自社の対策を検討するうえで重要です。ここでは、世界的に注目された代表的な3つのケースを取り上げ、どのような経緯で問題が顕在化したのかを整理します。| 事例の概要 | 発生時期 | 主な要因 |
|---|---|---|
| 大手メーカーでの機密情報入力問題 | 2023年3月 | 従業員による機密情報の入力 |
| チャット履歴タイトルが他ユーザーに表示 | 2023年3月 | システムのバグ |
| アカウント情報のダークウェブでの売買 | 2023年6月 | マルウェア感染による認証情報の窃取 |
大手メーカーでの機密情報入力問題
2023年3月、韓国の大手電子機器メーカーでは、社内でChatGPTの利用を認めた後、短期間のうちに複数のケースで社内の機密情報が入力されていたことが判明したと報じられました。従業員は、半導体関連のソースコードの修正や最適化、会議内容の要約などを目的として生成AIを利用していましたが、その過程で社外秘のソースコードや会議の録音データなどを入力していたとされています。
この事態を受け、同社は生成AIツールの社内利用を原則禁止する措置を取りました。
本件は、業務効率化を目的とした利用であっても、入力する情報の内容によっては重大な情報管理上の問題につながり得ることを示した事例といえます。
参考：Bloomberg「サムスン、従業員の生成AI利用を禁止－ChatGPT経由でデータ流出」
チャット履歴が他のユーザーに表示された事例
2023年3月、ChatGPTにおいて、一部のユーザーの会話履歴のタイトルが、他のユーザーの画面からも閲覧できてしまう不具合が発生しました。このインシデントは、オープンソースライブラリの不具合が原因とされており、開発元のOpenAIはサービスを一時停止したうえで修正対応を行いました。
この問題によって、実際の会話内容そのものが表示されたわけではありませんが、チャットのタイトルから内容を推測できてしまう可能性がある状況が生じていたと説明されています。
企業の業務上のやり取りや個人情報に関わる内容が扱われることもある中で、システム上の不具合が情報管理リスクにつながり得ることを示した事例といえます。
参考：OpenAI公式ブログ「March 20 ChatGPT outage: Here’s what happened」
アカウント情報が不正に売買された事例
2023年6月、シンガポールのセキュリティ企業の調査により、ChatGPTを含む複数のオンラインサービスのアカウント情報が、ダークウェブ上で不正に売買されている実態が明らかになりました。報道によると、これは情報を盗み出すマルウェア「インフォスティーラー」に感染した個人の端末から、ブラウザに保存されていたIDやパスワードが窃取されたことが主な原因とされています。
この事例は、AIサービスそのものへの直接的な攻撃だけでなく、利用者側の端末のセキュリティ対策が不十分な場合にも、結果としてAIサービスのアカウント情報が不正利用されるリスクがあることを示しています。
参考：日経クロステック（xTECH）「10万件のChatGPTアカウントが闇市場に、どう盗んだのか誰が欲しがるのか」
【関連記事】ディープフェイクの危険性とは？AIによる偽情報のリスクの実例と企業が取るべき対策｜サイバー保険ガイド
企業が今日からできるAI情報漏洩への基本対策
生成AIの情報漏洩リスクは無視できないものですが、適切な対策を講じることで、リスクを一定程度まで低減することは可能です。 重要なのは「便利だから使う」ではなく、「リスクを理解したうえで管理された形で使う」という姿勢です。 ここでは、全社で比較的すぐに取り組める基本対策を5つの観点から整理します。
対策1：社内での利用ルール（ガイドライン）を整備する
まず取り組むべきは、生成AIの利用に関する社内ルール（ガイドライン）の整備です。個々の従業員の判断に任せるのではなく、 組織として統一されたルールを定めることが重要です。
ガイドラインには、「入力してはいけない情報（個人情報、顧客情報、非公開情報、社内機密など）」を具体的に明記したうえで、 「どのような業務で利用を認めるのか」「違反があった場合の対応方針（是正・再発防止を含む）」なども整理しておく必要があります。
対策2：機密情報・個人情報を入力しない運用を徹底する
ルールの中でも特に重要なのが、機密情報や個人情報を生成AIに入力しないという運用の徹底です。 氏名や住所、電話番号、クレジットカード情報といった個人情報はもちろん、 企業の未公開情報、ソースコード、取引先との契約内容なども入力すべきではありません。
生成AIサービスの仕様や設定、契約形態によっては、入力内容が外部で保存・分析される可能性があります。 「仮の話」や「サンプルのつもり」であっても、実データに近い情報を入力すること自体がリスクになり得るため、 入力しないという運用ルールを徹底することが重要です。
対策3：データ取り扱い設定（学習利用の制御など）を確認・標準化する
多くの生成AIサービスでは、ユーザーの入力データをモデル改善に利用しないようにする設定、いわゆる「オプトアウト」の仕組みが用意されています。 例えばChatGPTでは、設定画面から「モデル改善への利用」に関する項目をオフにすることで、 入力内容が将来のモデル学習に使われるのを抑制できます。
ただし、これはあくまでリスク低減策の一つであり、すべての保存や処理が完全になくなることを意味するものではありません。 企業として生成AIを利用する場合は、情報システム部門などが設定内容や利用条件を確認したうえで標準設定として適用し、 従業員が不用意に変更しないよう管理する体制を整えることが望まれます。
参考：OpenAI Help Center「What if I want to keep my history on but disable model training?」
対策4：従業員教育で「やってはいけない」を定着させる
どれだけルールや仕組みを整えても、それを利用する従業員の理解が不十分であれば、情報漏洩のリスクは下がりません。 生成AIの特性やリスク、正しい使い方について、定期的な研修や周知を行い、セキュリティ意識を継続的に高めることが重要です。
実際に起きた情報漏洩の事例を紹介するなど、リスクを「自分ごと」として捉えてもらう工夫を取り入れることで、 ルールの形骸化を防ぎやすくなります。
【関連記事】従業員のセキュリティリテラシーを高めるには？本当に効果的な情報セキュリティ教育のポイントを解説｜サイバー保険ガイド
対策5：法人向けサービスや管理機能のある環境を検討する
一般向けの無料サービスと、法人向けに提供されている生成AIサービスでは、セキュリティ機能や管理機能に違いがある場合があります。 法人向けサービスの中には、入力データを学習に利用しないことが利用条件で明示されていたり、 アクセス管理や監査ログといった管理機能が用意されていたりするものもあります。
ただし、具体的な取り扱いはサービスごとの契約条件や仕様に依存します。 「法人向けであれば常に安全」と考えるのではなく、利用規約やデータの取り扱い方針を確認したうえで選定することが重要です。
AI活用を進める企業が追加で意識したいセキュリティの観点
ここからは、生成AIをより本格的に業務へ取り入れる企業（例：社内ツールへの組み込み、外部システムとの連携、利用者の増加）において、 管理部門や情報システム部門が特に意識しておきたい追加の観点を紹介します。
プロンプトインジェクション攻撃への備え
プロンプトインジェクションとは、攻撃者が悪意のある指示をAIに与えることで、意図しない動作を引き起こし、 内部情報の取得や不適切な出力を誘発する攻撃手法です。 特に、社内システムとAIを連携させて利用する場合には、入力内容の検証やフィルタリング、 AIがアクセスできる情報の範囲を最小限に制限するといった設計上の対策が重要になります。
ゼロトラストの考え方に基づくアクセス管理
ゼロトラストとは、「何も信頼しない」ことを前提に、すべてのアクセスに対して都度認証・認可を行うセキュリティの考え方です。 生成AIの利用においても、誰が、どの端末から、どのサービスにアクセスしているのかを把握・管理し、 不正利用やなりすましによるリスクを抑えることが重要です。
【関連記事】ゼロトラストとは？仕組み・メリット・導入ポイントをわかりやすく解説｜サイバー保険ガイド
シャドーAIのリスク管理
「シャドーAI」とは、企業が正式に許可・管理していない生成AIやAIツールを、従業員が個人の判断で業務に利用してしまう状態を指す言葉で、 従来から使われてきた「シャドーIT（会社の許可を得ずに私的にITツールやクラウドサービスを業務利用する行為）」の考え方を、AI利用に当てはめたものといえます。
無料の生成AIサービスは手軽に使える分、シャドーITと同様に管理部門の把握しないまま業務で利用されやすく、その結果、入力データの管理が行き届かずに情報漏洩リスクが高まる要因になりがちです。
社内からどのようなクラウドサービスにアクセスしているかを可視化・制御できる仕組み（CASBなど）を活用し、組織として利用状況を把握・管理していくことが有効です。
セキュリティ以外にも考慮すべき生成AI特有のリスク
これらのリスクの他にも生成AIのリスクは、「ハルシネーション」、「知的財産権への侵害」「業法などの侵害」など多岐にわたります。こうしたリスクに対応するため、総務省・経済産業省は「AI事業者ガイドライン」において、AIに関わる事業者が取り組むべき事項を10の「共通の指針」として整理しています。これらは「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」「アカウンタビリティ」といった技術・運用面の原則に加え、「教育・リテラシー」「公正競争確保」「イノベーション」といった社会実装面の観点も含んでおり、企業がAI活用を進める際の基本的な拠り所となる考え方です。
これらの指針は本来、AIの開発・提供に関わる事業者向けに整理されたものですが、生成AIを業務で利用する企業にとっても、どのようなリスクに注意すべきかを整理するための参考枠組みとして活用できます。
特に、情報漏洩やセキュリティ、プライバシーといった観点は、利用者側の企業にとっても無視できないポイントです。
参考サイト：経済産業省「AI事業者ガイドライン」
生成AIによる情報漏洩リスクとサイバー保険の考え方
ここまで見てきたように、生成AIの情報漏洩リスクに対しては、ガイドラインの整備や運用ルールの徹底、技術的な制御など、さまざまな対策を講じることが重要です。
しかし現実には、どれだけ対策を重ねても、人為的なミスや想定外のシステム不具合、新たな攻撃手法の出現などによって、リスクをゼロにすることは困難です。
特に生成AIは、業務システムやクラウドサービス、外部ツールと連携して使われるケースも増えており、事故が発生した場合の影響範囲や対応コストは、従来よりも大きくなる傾向があります。
そのため、「事故を防ぐための対策」に加えて、万が一事故が起きた場合に備える経営リスクへの備えもあわせて考えておくことが重要になります。
その選択肢の一つが、サイバー保険です。
サイバー保険でカバーされる可能性のある費用
サイバー保険は、不正アクセスや情報漏洩、システム障害などのサイバー事故が発生した際に、企業が負担するさまざまな費用を補償することを目的とした保険です。
生成AIの利用がきっかけで情報漏洩が発生した場合であっても、事故の内容次第では、以下のような費用が補償対象となるケースがあります。
- 事故原因を調査するためのフォレンジック調査費用
- 顧客や取引先への通知・説明対応にかかる費用
- コールセンター設置や問い合わせ対応のための費用
- 損害賠償請求への対応費用や訴訟費用
- 風評被害対策や広報対応にかかる費用
実際の情報漏洩事故では、システム復旧だけでなく、社外対応や調査、説明責任への対応など、直接的な被害額以外のコストが大きく膨らむことも少なくありません。サイバー保険は、こうした「事故後に発生する実務的・金銭的負担」をカバーする役割を担います。
生成AIが関係していても補償対象になり得る理由
「生成AIが原因の事故は、サイバー保険の対象になるのか？」と疑問に思われる方もいるかもしれません。
多くのケースで、保険の判断軸は「AIを使っていたかどうか」ではなく、「情報漏洩や不正アクセスなどのサイバー事故に該当するかどうか」に置かれます。
つまり、生成AIはあくまで事故の「きっかけ」や「利用環境の一部」であり、事故の本質が情報漏洩やシステム侵害であれば、サイバー事故として補償対象になる可能性があります。
従業員が生成AIに機密情報を入力してしまったケースや、AI連携システムが攻撃を受けたケースなども、状況によってはサイバー保険の補償範囲に含まれることがあります。
ただし、補償の可否や範囲は、保険商品ごとの約款や契約内容によって異なるため、個別の確認が重要です。
サイバー保険を検討する際の注意点
サイバー保険は「入っていれば何でも補償される」というものではありません。検討にあたっては、次のような点に注意が必要です。
- 故意や重大な過失による事故は、補償対象外となる場合がある
- すでに発生している事故や、認識済みのリスクは対象外になるのが一般的
- 罰金・課徴金などは、補償対象外となるケースが多い
- 生成AIの利用形態によっては、補償範囲や特約の有無を確認する必要がある
- セキュリティソフト等に自動付帯されているサイバー保険は、補償範囲が限定的なケースがある
- 支払限度額は引き上げることも可能だが、免責金額（自己負担額）や補償条件とのバランスを含め、実際のリスクに見合った設計になっているかの確認が重要
そのため、サイバー保険は「対策の代わり」ではなく、技術対策・運用対策を行ったうえで、それでも残るリスクに備えるための手段として位置づけることが重要です。
生成AIの活用が進むほど、情報漏洩やサイバー事故は「起きない前提」ではなく、「起きたときにどう備えるか」という視点も、経営上ますます重要になっていくといえるでしょう。
まとめ
生成AIは、ビジネスに革新をもたらす強力なツールですが、その利用には情報漏洩という重大なリスクが伴います。しかし、リスクを正しく理解し、今回紹介したような「ガイドラインの策定」「機密情報を入力しないルールの徹底」「法人向けサービスの利用」といった多層的な対策を講じることで、AIを安全に活用することは十分に可能です。
技術の進化に追随し、継続的にセキュリティ対策を見直しながら、AIがもたらす恩恵を最大限に引き出していきましょう。
ただし、どれだけ対策を講じても、システムの不具合や外部からの攻撃、人的ミスなど、企業の努力だけでは完全に防ぎきれないリスクが残るのも現実です。
万が一、情報漏洩が発生した場合には、調査・復旧対応、取引先や顧客への対応、損害賠償など、事業継続に大きな影響を及ぼすコストと負担が発生します。
こうした「起こさないための対策」に加えて、「起きてしまった場合に備える対策」として検討されるのがサイバー保険です。
サイバー保険は、情報漏洩やサイバー攻撃によって発生する各種費用や賠償リスクをカバーし、企業の経営ダメージを最小限に抑えるための備えとなります。
生成AIの活用が進む今だからこそ、技術的・運用的な対策とあわせて、経営リスクへの備えも含めた総合的な対策を検討しておくことが重要です。
特にWebサービス等を提供している企業は、インシデントが起こった際のリスク分散が重要となります。
保険会社が用意している脆弱性診断サービスも利用が可能なため、詳しくはお問合せください。
▶ サイバー保険 一括見積はこちら（無料）
当サイトを運営する「ファーストプレイス」では、
大手5社のサイバー保険の保険料を、無料で一括比較・見積りいただけます。
- 東京海上日動火災保険株式会社
- 三井住友海上火災保険株式会社
- 損害保険ジャパン株式会社
- あいおいニッセイ同和損害保険株式会社
- AIG損害保険株式会社
ECサイトやWebサービスを提供している企業様は、IT業務を提供する企業様向けの「IT業務用サイバー保険一括見積サイト」もご検討ください。
NTTDATA「GlobalGenAIReport（生成AIに関するグローバル市場動向の調査結果）」
総務省「令和7年版 情報通信白書」
欧州理事会「Artificialintelligence(AI)act:CouncilgivesfinalgreenlighttothefirstworldwiderulesonAI」
経済産業省「AI事業者ガイドライン」
