ChatGPTは、企業の業務効率化や生産性向上を支援するAIツールとして急速に普及しています。一方で、機密情報の取り扱いやアクセス権限の管理、データ保護など、適切なセキュリティ対策を講じなければ情報漏えいやコンプライアンス違反につながるリスクもあります。
本記事では、企業がChatGPTを安全に活用するために知っておきたい主なリスクと、実践すべきセキュリティ対策やベストプラクティスを解説します。
ChatGPTエンタープライズアプリケーションに共通するセキュリティリスク
企業でChatGPTを導入する際には、従来のアプリケーションセキュリティとは異なる、特有のセキュリティリスクへの対応が求められます。
ChatGPTは機密データを含む可能性のある自然言語入力を処理し、その出力は非決定的であるため、同じプロンプトでも異なる結果が生成されます。
また、ChatGPTの普及に伴い、シャドーAI（Shadow AI）の問題がますます深刻化し、企業のセキュリティギャップが拡大しています。
代表的なリスクは、次の5つです。
データ窃取は、機密データがAPI呼び出し中に傍受されたり、適切に保護されていないストレージから抽出されたりする場合に発生します。攻撃者は脆弱なAPIエンドポイントや誤構成されたアクセスコントロールを悪用し、システムとOpenAIのインフラ間を流れる機密ビジネス情報を取得します。
データ漏洩は、ChatGPTが応答を通じて気付かないうちに個人識別情報（PII）や知的財産を露出させてしまう場合に発生します。このリスクはファインチューニング時に大幅に増加します。適切にサニタイズされていないトレーニングデータがモデルの動作に埋め込まれ、他のユーザーへの出力として現れる可能性があるためです。
悪意あるコード生成は、攻撃者がChatGPTのセーフティフィルターを回避するプロンプトを作成した場合に発生します。モデルは意図的に有害なコードを生成しませんが、悪意のあるプロンプトにより、不正なシステムアクセスを可能にするコードや攻撃シーケンスを自動化するコードを生成するよう操作される可能性があります。
出力の悪用は、攻撃者がChatGPTの生成コンテンツを欺瞞目的で利用する場合に発生します。エンタープライズにおいては、説得力のあるフィッシングメールの作成、虚偽の法的・財務的アドバイスの作成、正当なビジネスソースからの通信に見せかけた不正なコミュニケーションの作成が含まれます。
なりすましによる不正アクセスは、ChatGPTのコミュニケーションスタイル模倣能力を悪用するものです。攻撃者は経営幹部、ITサポート、または信頼されたベンダーになりすましたメッセージを作成し、ソーシャルエンジニアリング攻撃をより説得力があり検出困難なものにします。
このような脅威から企業システムを保護するには、意図しない事故とサイバー攻撃の双方に備えた、堅牢なセキュリティ対策が不可欠です。
The 4-Step Framework for AI Threat Readiness
Wiz has designed a 4-step framework to help organizations defend against rapid, automated exploitation in a post-Mythos world.
ChatGPT導入時のセキュリティベストプラクティス
ChatGPT 導入環境のセキュリティを確保するには、既存のセキュリティ基盤の上にAI固有のリスクに対応するセキュリティ管理策（Security controls）が必要です。以下のプラクティスは、モニタリング、ログ記録、エンドポイント保護がすでに導入されていることを前提としています。これら5つのプラクティスは、ChatGPTが特有にもたらす課題に焦点を当てています。
1. APIバージョン管理を維持する
OpenAIは定期的に脆弱性を修正しセーフティフィルターを更新しているため、古いバージョンを使い続けると既知のリスクにさらされます。以下の取り組みにより、システムやAPIを常に最新の状態に維持します。
ChatGPT Enterpriseを評価する：Enterpriseプランには、シングルサインオン（SSO）、監査ログ、データ分離などのセキュリティ管理策が含まれており、標準プランでは利用できません。
アップデート監視を自動化する：OpenAIのリリース追跡をDevSecOpsワークフローに統合し、セキュリティ関連の変更を把握します。定期的にAPIを最新の安定版ChatGPTに移行してください。
AI固有の脆弱性を追跡する：OpenAIのセキュリティ速報を購読し、CVEデータベースでLLM関連の脅威を監視します。
攻撃対象領域を最小化する：モデル、プラグイン、統合の数を制限し、潜在的な侵入経路を減らします。
2.ゼロトラストセキュリティを実装する
ChatGPTへのアクセスは、従業員が個人デバイス、自宅ネットワーク、モバイルアプリから利用するため、従来のネットワーク境界を迂回することが多く、ゼロトラストアーキテクチャが対処すべきエンタープライズネットワークのトレンド（BYODなど）を反映しています。ゼロトラストセキュリティは、リクエストの発信元に関係なく、すべてのリクエストを検証します。
すべてのChatGPTアクセスに多要素認証（MFA）を要求する：WebインターフェースとAPI統合の両方に適用します。
APIエンドポイントを保護する：OpenAI APIを呼び出すシステムに対して、強力な認証、レート制限、異常検出を実装します。
TLS暗号化を適用する：システムとOpenAI間のすべての通信に暗号化されたチャネルを使用します。
行動分析を導入する：大量データ抽出、営業時間外のアクセス、予期しない場所からのリクエストなど、異常なパターンを監視します。
3. PIIおよび知的財産データを制限する
ChatGPTが直接処理する機密データを最小化することで、データ漏洩や不正アクセスのリスクを低減します。
データを暗号化する：送信中データおよび保存時のデータの両方を暗号化します。
ユーザーの同意を取得する：個人データを処理する前に同意を得ます。
機密データを匿名化・非識別化する：ChatGPTに入力する前にデータを処理し、ツールの全機能を活用しながら個人のプライバシーを保護します。
厳格なデータ保持ポリシーを策定する：機密データの保存および処理期間を制限します。
データフローを定期的に監査する。
4. コンテンツモデレーションを実施する
ChatGPTの出力が悪用されたり、ビジネス目標と一致しない結果にならないよう保護します。
著作権侵害をチェックする：ChatGPTが生成したコンテンツにおける著作権侵害や独自データの不正使用を確認します。特にクライアント向け資料では注意が必要です。
出力フィルタリングの仕組みを実装する：不適切、攻撃的、またはバイアスのある回答がエンドユーザーやステークホルダーに届く前にフラグ付けまたはブロックします。
出力の均一化を防止する：レスポンスのカスタマイズやユニークで多様な結果を促すプロンプトの使用により、標準化された繰り返しの回答を避けます。
重要な情報の正確性とソースを必ず検証する：ChatGPTが生成した情報を検証します。
5. 教育とガバナンス
予防的かつ人間中心のセキュリティ対策は、ヒューマンエラーの最小化と脆弱性の未然防止に不可欠です。
体系的なAIポリシーを策定する：ChatGPTの導入と管理に関する許容される使用方法、セキュリティプロトコル、明確な責任範囲を定めます。
定期的な従業員トレーニングを実施する：AIとChatGPTに関連するリスクについて教育を行い、特に責任あるデータ共有の実践と一般的なソーシャルエンジニアリング攻撃への認識に重点を置きます。
定期的なリスク評価を実施する：脆弱性を特定して対処し、最新のセキュリティおよびコンプライアンス基準との整合性を確保します。
AIおよび生成AI（GenAI）のセキュリティインシデントに対するインシデント対応計画を策定する。
これらのベストプラクティスを実践することで、企業はChatGPTを安全に導入・運用しながら、生成AI（GenAI）がもたらすイノベーションの可能性を最大限に活用できます。公式のセキュリティガイドラインについては、OpenAIのセーフティベストプラクティスを参照してください。
ChatGPT利用時に規制コンプライアンスを確保する方法
ChatGPTは多くの企業が見落としがちなコンプライアンスギャップを生み出します。調査によると、責任あるAIガバナンスのための専門委員会を設置している企業はわずか18%に過ぎません。従業員が顧客データ、患者情報、財務記録をプロンプトに貼り付けると、プロバイダーのデータ処理方針や設定によっては、入力したデータが企業の管理外で処理・保存される可能性があります。
一般データ保護規則（GDPR）は、文書化された同意に基づく合法的で透明性のあるデータ処理を求めており、HIPAA（医療保険の相互運用性と説明責任に関する法律）では、保護対象医療情報に対する厳格な安全対策を義務付けています。これらのフレームワークは、自社システム内のデータだけでなく、ChatGPTと共有されるデータにも適用されます。
OpenAIのSOC 2 Type 2およびCSA STAR Level 1認証は、OpenAIのセキュリティ管理体制に関する一定の保証を示すものですが、企業がChatGPTをどのように利用するかについてのコンプライアンス責任は、企業側に残ります。
これらの規制要件を満たすために、企業は最低限以下を実施すべきです。
自社に適用される法律・業界ガイドラインを特定する。
定期的にセキュリティ監査を実施して脆弱性を検出し、迅速に対処して堅牢な防御を維持する。
AIモデルの意思決定プロセスにおける透明性を維持する。特に機密データを扱う場合は重要です。
定期的な評価と監査により、違反を防止し、AIの導入・運用がコンプライアンス基準を満たしていることを確認できます。ChatGPTのセキュリティに関する具体的なコンプライアンスガイドラインとリソースについては、OpenAIのTrust and Safetyリソースをご覧ください。
Inside MCP Security: A Field Guide
As ChatGPT integrates with more tools via protocols like MCP, new attack surfaces emerge. Explore the risks Wiz Research uncovered.
Wiz AIセキュリティが本番環境でのChatGPTの保護をどのように支援するか
多くのセキュリティツールでは、AIパイプライン内で実際に何が起きているのかを十分に可視化できません。どの従業員がChatGPTを使用しているか、プロンプトを通じてどのようなデータが流れているか、設定が機密データを露出させていないかを把握する可視性が不足しています。WizのAIセキュリティレディネスレポートによると、25%の企業が自社環境で実行されているAIサービスを把握しておらず、可視性の不足という課題が明らかになっています。
Wiz AIセキュリティは、継続的なスキャン、モニタリング、統合、テストにより、スタック全体を保護し、チームが攻撃に先手を打ちながら全体的なセキュリティを継続的に強化できるよう支援します。
OpenAIに直接接続する：SaaSコネクタを通じて、他のクラウドワークロードと同等の可視性をChatGPT導入環境に対して提供します。
リソース間の関係を可視化する：Wiz Cloudにより、ツール、モデル、エージェント、データ、インフラストラクチャ全体の関係性を可視化します。
セキュリティ上の問題を検出する：Wiz Codeにより、安全でないパターン、脆弱な依存関係、露出した認証情報を検出します。
動作を監視する：Wiz Defendにより、不正なエージェント、異常なデータ流出、プロンプトインジェクション攻撃を特定します。
AIエージェントを活用する：攻撃をシミュレーションして脆弱性を発見する「Red Agent」、脅威を調査してアラートを分析する「Blue Agent」、AIを活用して優先度の高い修復策を提示する「Green Agent」を利用できます。
イノベーションを妨げないChatGPTのセキュリティ確保
ChatGPTの導入に際して、セキュリティの盲点を抱える必要はありません。AIのデータフロー、ユーザーの利用状況、設定上のリスクに対する適切な可視性があれば、強固なガバナンスとコンプライアンス基準を維持しながら、チームが生成AIツールを活用できるよう支援できます。
重要なのは、ChatGPTを他のクラウドワークロードと同様に扱うことです。管理対象として登録し、監視し、環境全体に一貫したセキュリティポリシーを適用します。Wiz AIセキュリティ態勢管理（AI-SPM）は、セキュリティチームに統合されたビューを提供し、ChatGPT導入環境をより広範なクラウドコンテキストに接続することで、リスクがインシデントに発展する前に特定できるようにします。
ChatGPTデプロイメントのセキュリティ状況を確認しませんか？デモを予約して、Wizがクラウド環境全体のAIリスクをどのようにマッピングするかをご覧ください。
See your AI risk in full cloud context
Wiz connects ChatGPT deployments to identities, data stores, and infrastructure so you can act on what matters.
