AIの活用が拡大する中で、AIシステムの安全性や信頼性を継続的に確認するAI監査の重要性が高まっています。
本記事では、AI監査の目的や従来のIT監査との違い、監査で確認すべきポイントを解説するとともに、WizがAI監査をどのように支援するかを紹介します。
定義と範囲
AI監査とは、AIモデル、データ、パイプライン、インフラが安全であり、コンプライアンスに準拠し、意図通りに動作していることを確認するための体系的なレビューです。この評価は、第三者や規制当局が実施する外部監査と、組織内のセキュリティおよびコンプライアンスチームが実施する内部監査の２つに分類されます。
監査では、セキュリティの構成やアクセス権限といった技術的なセキュリティ統制（security controls）と、監視モデルやアカウンタビリティ構造を含むガバナンスプロセスの両方を検証します。クラウドプラットフォーム上でAIを展開する組織は、監査担当者がコンテナ化、サーバーレスモデル、マルチクラウドアーキテクチャを理解していることを確認する必要があります。
25 AI Agents. 257 Real Attacks. Who Wins?
From zero-day discovery to cloud privilege escalation, we tested 25 agent-model combinations on 257 real-world offensive security challenges. The results might surprise you 👀
AI監査とモデルバリデーションの違い
モデルバリデーションは、統計的なパフォーマンスとビジネスとの整合性に焦点を当て、精度指標、バイアス検出、安定性、文書化を評価します。セキュリティ監査は脅威からの保護とコンプライアンスを優先し、敵対的攻撃への露出、アクセスコントロール、インフラセキュリティ、サプライチェーンの信頼性、インシデント対応能力を検証します。
これらの取り組みを統合することで、組織はシステムの有効性とセキュリティの両方を確保する統一的なAIリスク管理プログラムを構築できます。
組織がAI監査を実施する理由
規制コンプライアンス：EU AI ActやGDPRを含む規制は、AIの動作、トレーニングデータ、自動化された意思決定を明示的に取り扱っています。定期的な監査により、コンプライアンスを実証し、リスク管理プロセスを文書化できます。
セキュリティリスク管理：AIは、新しいAPI、サービスアイデンティティ、データフロー、クラウドとの統合を導入することで、攻撃対象領域（アタックサーフェス）を大幅に拡大します。機密データを外部からアクセス可能なサービスに接続するため、新しいモデル、エンドポイント、パイプラインが追加されるたびに、潜在的な誤構成や不正なアクセスポイントが増加します。
運用の信頼性：監査により、モデルの劣化、パイプラインの不安定性、モニタリングの不備（ギャップ）が本番環境の障害発生前に検出されます。
信頼と評判：セキュリティ、データガバナンス、運用統制にわたる定期的な監査の実施を示すことで、顧客、パートナー、規制当局からの信頼を構築し、インシデントリスクを低減できます。
Are You Ready for Secure AI?
Learn what leading teams are doing today to reduce AI threats tomorrow.
４つのコア監査領域
データセキュリティとプライバシー
監査では、トレーニングデータおよび推論データのソース、アクセスコントロール、暗号化の実践、機密データの露出リスク、データの系統（データフロー）、保持ポリシーを検証します。組織は、トレーニングデータセットに個人識別情報（PII）、医療記録、決済データなど、モデルが漏洩する可能性のある情報が含まれていないかを確認する必要があります。
モデルセキュリティと完全性
この領域は、改ざん、盗難、不正な置き換えからモデルを保護します。監査では、モデルアーティファクトの保護、バージョニングの実践、暗号署名の検証、抽出攻撃に対する防御、オープンソースモデルのサプライチェーンの信頼性を検証します。
インフラとデプロイメントセキュリティ
ほとんどのAIワークロードはクラウド環境で実行されるため、監査ではクラウドの構成、エンドポイントのネットワーク露出、IAM（アイデンティティとアクセス管理）の厳密さ、シークレット管理の実践を評価します。監査担当者は、プライベートネットワーキングオプションやAPIゲートウェイ認証の使用を検証し、最小権限のIAMポリシーを確認し、クレデンシャルがコードに埋め込まれていないことを確認します。
コンプライアンスとガバナンス
このプロセス重視の領域は、規制および内部ポリシーとの整合性、ガバナンスフレームワークの成熟度、モデル文書化の完全性、説明可能性メカニズム、監査ログおよびモニタリング機能を対象としています。
EU AI Act監査への準備
EU AI Actは、2025年から2026年にかけて施行されるリスクベースの要件を導入しています。一度限りの認証ではなく、組織は継続的な監査可能性が求められると捉えるべきです。
リスク分類：監査担当者は、使用目的と潜在的な影響に基づいて、システムが禁止、高リスク、限定リスク、最小リスクのいずれに該当するかを判断します。高リスクシステムには、最も厳格な文書化と監視が求められます。
技術文書：組織は、システム設計、トレーニングデータのソースとガバナンス、モデルアーキテクチャと制限事項、リスク管理措置、人間による監視メカニズムを網羅する文書を維持する必要があります。
市場投入後のモニタリング：高リスクシステムについては、モデルドリフト、パフォーマンスの劣化、新たなバイアス、セキュリティインシデントを検出し、調査と修復プロセスを文書化していることを監査で検証します。
透明性と説明可能性：組織は、システムの目的と制限事項を伝達し、必要に応じて意味のある判断の説明を提供し、ユーザーの権利について通知する必要があります。
データガバナンス：トレーニングデータセットは、関連性があり代表性のあるものでなければならず、品質とバイアスの統制の対象とし、GDPRに準拠して管理する必要があります。
分散された役割と責任
セキュリティチーム：AIインフラ、アイデンティティ、エンドポイントに関するセキュリティ統制を評価し、AI固有の脅威露出を検証し、ログ記録とインシデント対応態勢を確認します。
AI/MLエンジニアリングチーム：モデルアーキテクチャとパフォーマンスを文書化し、データの系統（データフロー）とモデルの出所に関する証拠を提供し、モデルレベルの統制を実装します。
プラットフォームおよびクラウドエンジニアリングチーム：AIワークロードを支えるクラウドリソースを構成し、暗号化、シークレット管理、環境の分離を維持し、インフラに関する指摘事項に対応します。
GRCチーム：監査プロセスを調整し、統制をポリシーおよびフレームワークにマッピングし、規制上の義務を解釈します。
データガバナンスおよびプライバシーチーム：データセットを分類し、データ保護影響評価を実施し、保持およびアクセスコントロールを検証します。
法務チーム：ベンダー契約を確認し、知的財産と責任について助言し、監査結果の法的リスクを評価します。
一般的な監査フレームワーク
NIST AIリスク管理フレームワーク：AIリスクをGovern（統治）、Map（特定）、Measure（評価）、Manage（管理）の4つの機能に整理し、ライフサイクル全体にわたる構造を提供します。
ISO/IEC 42001：ガバナンス構造、文書化された統制、継続的改善を重視するマネジメントシステム規格です。
EU AI Actの要件：リスク分類、トレーニングデータガバナンス、透明性、デプロイメント後のモニタリングに焦点を当てています。
OWASP ML Security Top 10：モデル盗難やデータポイズニングなど、ML固有のセキュリティリスクを取り上げています。
MITRE ATLAS：機械学習システムを標的とした実世界の敵対的手法に関する知識を提供します。
クラウドネイティブセキュリティとの統合
AIシステムは、そのクラウドインフラから切り離すことはできません。新しいモデル、パイプライン、エンドポイントが追加されるたびに、アイデンティティ、権限、ネットワーク経路、データアクセスが導入され、攻撃対象領域が拡大します。
AI監査は、既存のクラウドセキュリティの実践方法であるセキュリティ態勢管理、アイデンティティガバナンス、データセキュリティ、脆弱性管理を拡張しながら、従来のツールでは見落とされがちなAI固有のリソースに対応します。
急速に変化するクラウド環境では、ポイントインタイムの監査は不十分です。AI監査には、定期的なスナップショットではなく、継続的な可視性が必要です。
多くのリスクは、インフラ、アイデンティティ、データ、AIの各レイヤーにわたるシグナルを相関させて初めて顕在化します。AI監査のロジックをクラウドセキュリティワークフローやCI/CDパイプラインに統合することで、環境の進化に合わせて監査態勢を維持できます。
AI監査を支えるWizの役割
Wizは、マネージドAIサービス（Amazon Bedrock、SageMaker、Vertex AI）および関連リソースのエージェントレス検出を通じて、AI監査のセキュリティおよびクラウドインフラ基盤を提供します。セキュリティグラフにより、AIサービスをクラウドアイデンティティ、ネットワーク露出、脆弱性、機密データと相関させます。
WizはAI監査の要件を以下のように支援します。
AIサービスに影響を与える誤構成の特定
AIサービスアイデンティティの実行権限のマッピング
AIパイプライン内の機密データの検出と分類
露出とアクセス要因の組み合わせによるアタックパスの可視化
ガバナンスプロセスやモデルバリデーションと併用することで、Wizは組織がAIセキュリティを拡張し、盲点を減らし、防御可能な監査結果を支援します。
Accelerate AI Innovation, Securely
Learn why CISOs at the fastest growing companies choose Wiz to secure their organization's AI infrastructure.
