AIセキュリティの重要性が増している理由
AIセキュリティインシデントは急速に増加しています。Forbesの報告によると、2017年から2023年にかけて690%の増加が見られ、今後もその加速が続くと予測されています。この急増は、スタートアップからFortune 500企業まで、あらゆる業界・規模の組織に影響を及ぼしています。
AIリスクの範囲は、公に報告されているものをはるかに超えています。現在のインシデントデータは、主にFacebook、Tesla、OpenAIなどの大手組織における侵害を捉えたものにすぎません。
しかし、小規模な導入環境やプライベートなAI実装においても、無数の未知のリスクが存在しています。AI Incident Databaseは、一般的かつ既知のAIインシデントの種類を把握するための優れたリソースですが、AIセキュリティエコシステムには、より多くの「既知の未知」と「未知の未知」が潜んでいます。
AIの課題を俯瞰する
AIセキュリティの複雑さは、この技術のダイナミックかつ相互接続された性質に起因しています。NISTの研究では、多くのAIシステムには数十億、あるいは数兆の意思決定ポイントが含まれていると指摘されています。
従来のソフトウェアとは異なり、AIシステムは常に進化するアルゴリズム、大規模なデータセット、そして時間とともに動作が変化する実世界のアプリケーションを含んでいます。
主な複雑性要因：
技術的な課題：高度なアルゴリズムとビッグデータ処理の管理
脅威の状況：大部分が未踏のセキュリティ領域への対応
リスクの多様性：データ侵害、敵対的攻撃（Adversarial Attack）、倫理的な影響、脆弱性管理
従業員の利用もさらなるリスクを生み出します。善意による生産性向上の取り組みであっても、データ漏洩につながる可能性があります。
例えば、デフォルトのプライバシー設定を変更せずにChatGPTを利用する従業員は、気付かないうちに機密情報を共有してしまうことがあります。
これらおよびAIに関連するさらなるリスクを管理するために、組織は従来のサイバーセキュリティ対策をAI固有のニーズに拡張する、戦略的かつ組織全体で連携したセキュリティ対策を必要としています。
The 4-Step Framework for AI Threat Readiness
Wiz has designed a 4-step framework to help organizations defend against rapid, automated exploitation in a post-Mythos world.
AI脅威への準備のための4ステップフレームワーク
Wizは、AIを悪用した迅速かつ自動化された攻撃に備えるための4ステップフレームワークを設計しました。
AIセキュリティの8つのベストプラクティス
効果的なAIセキュリティには、部門横断的な連携が不可欠です。SecOps、DevOps、GRCの各チームが一貫した方針で取り組むことで、AIがもたらす事業価値を維持しながら、強固なセキュリティ態勢を確立できます。
チームの目標：
SecOps：セキュリティフレームワークの開発と脅威モニタリングの主導
DevOps：データサイエンスチーム向けのアジャイルなデプロイメントプロセスの維持
GRC：AI実装全体にわたるコンプライアンスとガバナンスの確保
目標は、セキュリティ管理策（Security controls）と生産性のバランスを取ることです。外部のAIテクノロジーへの安全なアクセスを実現しつつ、開発プロセスを効率的に保つことが求められます。
1. アジャイルで部門横断的なマインドセットを採用する
アジャイルなセキュリティフレームワークは、AIの急速な進化に適応しながら、既存のAI導入環境を速やかに保護するために役立ちます。多くの組織では、すでに従業員がAIツールを使用しており、早急なセキュリティ対策が必要なユースケースが存在しています。
実装アプローチ：
迅速な初期展開：既存のプロセスをカバーする基盤となるAIセキュリティフレームワークを迅速に構築する
反復的な改善：短い更新サイクルを活用し、組織固有のAI要件に合わせてセキュリティ統制を特化させる
優先度に基づく進化：最も重大なリスクから優先的に対処するメカニズムを定義する
このアプローチにより、将来的なAI導入に対する柔軟性を維持しつつ、即座のセキュリティカバレッジを確保できます。
この進化するAIフレームワークの定義を支援するために、初期段階からAIセキュリティに関するオープンなコミュニケーション文化を確立してください。対話と協力を促進することで、潜在的なリスクを効率的に特定・軽減しつつ、セキュリティチームがAIセキュリティ要件を伝達・適用するための手段を提供できます。
Wizの調査によると、AIはクラウド環境において急速に普及しており、70%以上の組織がマネージドAIサービスを利用しています。この割合は、80%以上の組織で見られるマネージドKubernetesサービスの普及率に匹敵するほどです。
2. AIに対する脅威の状況を理解する
AIは、専門的な知識を必要とする複雑なテーマです。データサイエンスチームや他のAIスペシャリストとの協力が理想的ですが、セキュリティチームもAIの脅威状況に関する基礎的な理解を身につける必要があります。
優れた出発点となるのが、MITRE ATLAS（Adversarial Threat Landscape for Artificial-Intelligence Systems）フレームワークです。このフレームワークは、脅威アクターがAIを侵害するために使用する戦術と手法を定義しています。
一般化された脅威を検討する際には、米国国土安全保障省が定める3つの主要な脆弱性カテゴリ、すなわちAIを利用した攻撃、AIを標的とした攻撃、設計上の欠陥を考慮し、自組織のAIエコシステムに関連するものを選択してください。
MITRE ATLASフレームワークを精査することで、セキュリティチームは自組織が活用するAIアプリケーションに影響を与えた過去のAIセキュリティ侵害や、類似のワークフローを持つ企業で発生したインシデントから学ぶことができます。
その重大さは、MicrosoftのAI研究者が38TBのデータを露出させたセキュリティ侵害や、Hugging Face APIのトークン露出が示す通りです。
常に最新の状態を維持するために、一般的なAIモデルや採用済みのAIテクノロジーの既知の脆弱性を、カスタマイズされたオンライン検索やアラートを通じて追跡してください。
WizのCloud Attack Retrospectiveでは、漏洩したBedrock認証情報がわずか7時間以内に不正なLLM利用に悪用された事例が記録されています。
3. 組織のAIセキュリティ要件を定義する
組織によってセキュリティ要件は異なり、AIセキュリティに万能なフレームワークは存在しません。
組織中心のAIガバナンスポリシーは、データプライバシー、資産管理、倫理的ガイドライン、コンプライアンス基準にわたるセキュリティのベースラインを確立します。
これらの包括的なポリシーは、AI固有のリスクプロファイルとオープンソースへの依存に対応しています。
ガバナンスの主要領域：
データプライバシー：トレーニングおよび推論プロセスにおける機密データの保護
資産管理：AIモデルとデータセットのインベントリを作成・管理する
サードパーティリスク：オープンソースAIコンポーネントとベンダーソリューションのセキュリティ管理
コンプライアンス基準：規制要件と業界標準のフレームワークとの整合
予防的なリスク管理には、継続的な評価が不可欠です。必須のセキュリティ管理策には、システム動作の継続的な監視、定期的なペネトレーションテスト、堅牢なインシデント対応計画が含まれます。
AIガバナンスポリシーを定期的に見直し更新することで、セキュリティチームはコンプライアンスを確保するだけでなく、新たに出現し進化するセキュリティ課題に先手を打つことが可能になります。
AIセキュリティベンダーをお探しですか？最も人気のあるAIセキュリティソリューションのレビューをご覧ください。
4. 包括的な可視性を確保する
セキュリティは、把握され可視化されているプロセスに対してのみ実現可能です。
AI-BOM（AI版部品表）は、組織のシステム全体にわたるすべてのAIコンポーネントと依存関係の包括的なインベントリを提供します。
これには、AIアプリケーションを支える自社開発、サードパーティ、およびオープンソースの要素が含まれます。
AI-BOMの実装プロセス：
コンポーネントのカタログ化：すべてのAIモデル、データセット、フレームワーク、ライブラリを文書化する
依存関係のマッピング：AIシステムコンポーネント間の関係を追跡する
AIモデルカード：AI-BOMに含める前に、各AIアプリケーションの標準化されたドキュメントを作成する
AIモデルカードはセキュリティの設計図として機能し、各AIシステムのモデル詳細、セキュリティ要件への準拠状況、ステークホルダーの責任を明確に文書化します。
また、自社でホストするAIパイプラインは、確立されたCI/CDプロセス内でのみ本番環境に反映されるようにすべきです。
この運用により、セキュリティ対策を自動的に組み込み、手動エラーを最小限に抑えながら、モデルの導入プロセスを加速できます。
最後に、可視性を高めるためのガバナンスプロセスでは、シャドーAI（Shadow AI）、つまりセキュリティチームが把握していない状態で従業員が利用しているAIに関連するリスクにも対応する必要があります。
組織全体の透明性と説明責任を高め、新しいAIテクノロジーを導入しやすい仕組みを整えることが、シャドーAIへの有効な対策となります。
5. 安全なモデルとベンダーのみを許可する
これまで見てきたように、AIはコミュニティ主導の分野です。特化した（大規模な）データの要件を考慮すると、組織はAIアプリケーションのビジネスポテンシャルを引き出すために、オープンソースおよびサードパーティのAIソリューションの採用を決断することがよくあります。
これらの外部AIモデルを本番環境に導入するには、外部テクノロジーに対するセキュリティ統制が限られている中で、パフォーマンスと安全性の繊細なバランスが求められます。
AIフレームワークの一環として、セキュリティチームは、外部のAIモデルとベンダーを事前定義されたセキュリティ要件に照らして評価するための厳格な審査プロセスを確立すべきです。
審査対象となる外部AIソリューションには、フレームワーク、ライブラリ、モデルの重み（ウェイト）、およびdatasetsが含まれます。
セキュリティ要件には、最低限、データの暗号化とデータ処理、アクセスコントロール、認証を含む業界標準への準拠を含める必要があります。この審査プロセスを通過した外部AIソリューションは、信頼性と安全性を備えたものと見なされます。
すべてのコンポーネントに同じ厳格な基準を適用することで、セキュリティチームは、AIエコシステム全体が最高水準のセキュリティプロトコルに準拠していることを確信を持って保証でき、潜在的なリスクを軽減し、新たな脅威に対する組織の防御を強化できます。
Inside MCP Security: A Field Guide
Model Context Protocol introduces new integration risks across AI pipelines. Explore the emerging attack surfaces and what practitioners need to know.
6. 自動化されたセキュリティテストを実装する
本番環境におけるAIモデルの予期しない動作は、ユーザーエクスペリエンスの低下からブランドの毀損、法的責任に至るまで、望ましくない結果を招く可能性があります。
AIモデルは本質的に非決定論的であり完全な制御は不可能ですが、包括的なテストによりAIの（誤）動作に関連するリスクを低減できます。
AIモデルとアプリケーションを定期的にスキャンすることで、セキュリティチームは脆弱性を予防的に特定できます。
これらのチェックには、コンテナセキュリティや依存関係のスキャン、ファズテストといった従来型のテストに加え、Alibi DetectやAdversarial Robustness Toolboxなどのツールを用いたAI固有のスキャンが含まれます。
機密性の高いトレーニングデータや露出したシークレットから、アイデンティティ、ネットワーク露出に至るまで、AIパイプライン全体にわたる攻撃経路を、本番環境で脅威となる前に検出することが目標です。
最後に、機能テストも不可欠です。コア機能の安全性を確保するために、機能テストにはバイアスと公平性の分析など、倫理性に関するAI固有のテストを含める必要があります。
これにより、NISTが特定した3つの主要なAIバイアスカテゴリ、すなわちシステム的バイアス、計算・統計的バイアス、人間の認知バイアスの管理に役立ちます。
CI/CDパイプライン内にAIセキュリティテストを組み込むことが、ソフトウェア開発ライフサイクルの早い段階で脆弱性を確実に特定・対処するための鍵であり、定期的なテストが継続的かつ先見的なセキュリティ態勢を維持する唯一の方法です。
7. 継続的モニタリングに注力する
テストだけでなく、AIシステムの動的かつ本質的に非決定論的な性質には、継続的な警戒が必要です。
継続的モニタリングに注力し、予期しないAIの動作や誤用に効果的に対処できる、安全で信頼性の高いAIエコシステムを維持してください。
AIアプリケーションとインフラストラクチャの両方を監視し、異常や潜在的な問題をリアルタイムで検出するための堅牢なシステムを構築してください。
リアルタイム監視プロセスでは、主要パフォーマンス指標、モデル出力、データ分布の変化、モデル性能の変動、その他のシステム動作を追跡します。
これらのリアルタイム脅威検知メカニズムによってトリガーされる自動化されたアラートと対応メカニズムを統合することで、セキュリティインシデントを迅速に特定・対応し、リスクを軽減し、あらゆる敵対的活動の影響を最小化できます。
8. スタッフの脅威とリスクに対する意識を向上させる
AIに対するSecOps分野の進歩と並行して組織のAIフレームワークが成熟するにつれ、セキュリティチームは各AIユーザーが基本的なセキュリティガイドラインを遵守できるよう、スタッフへの脅威とリスクに関する教育に時間を費やす必要があります。
まず、セキュリティチームがデータサイエンスチームと協力して、明確かつ簡潔なセキュリティガイドラインを提供することがベストプラクティスです。
これらのセキュリティガイドラインの設計は、データサイエンスチームの実験をできる限り促進するものであるべきです。これにより、データサイエンスチームがAIのポテンシャルを引き出すためにセキュリティ統制を無視またはバイパスするリスクを最小化できます。
最初のセキュリティガイドラインが整備された後は、全従業員にAIを安全に使用するための知識を身につけさせる包括的なトレーニングを提供すべきです。
協力的な意識向上は、意図しないセキュリティ侵害のリスクを軽減するだけでなく、従業員が組織のセキュリティ態勢に直接貢献できるようにします。
AIコンプライアンスと規制の枠組み
AIの急速な導入に伴い、新たな規制やコンプライアンスフレームワークが次々と登場しています。組織は、法的リスクを回避し、顧客からの信頼を築くために、こうした変化に適切に対応する必要があります。責任あるAIの導入・運用には、コンプライアンスへの予防的なアプローチが不可欠です。
主要な規制とフレームワーク
いくつかの主要なフレームワークが、グローバルなAIガバナンスを形成しています。EU AI Actは、AIシステムをリスクレベルで分類し、ハイリスクなアプリケーションに対して厳格な要件を課しており、汎用AIモデルに関するルールは同法の予定される公布から12か月後に適用される見込みです。
米国では、NIST AIリスク管理フレームワーク（RMF）が、AIに関連するリスクの管理に関する自主的なガイダンスを提供しており、組織がAIシステムの信頼性と責任ある開発・利用を推進することを支援することを目指しています。
HIPAAなどの業界固有の規制も、機密データにおけるAIの利用方法に影響を及ぼしています。
コンプライアンスの基本原則
ほとんどのAI規制は、透明性、公平性、説明責任、プライバシーを含む一連の基本原則に基づいて構築されています。組織は、自社のAIシステムがこれらの原則に従って運用されていることを実証できなければなりません。
これには、明確なドキュメント（モデルカードなど）の維持、バイアスの監査、データ処理慣行がプライバシー法に準拠していることの確認が含まれます。
コンプライアンスの達成と実証
セキュリティ統制を特定の規制要件にマッピングできるセキュリティツールを活用してください。これにより、監査人やステークホルダーに対するコンプライアンスの実証プロセスが簡素化されます。
Wizは、AIセキュリティ態勢をNISTなどの主要フレームワークに照らしてマッピングすることで、組織のAIコンプライアンスの合理化を支援します。
自動化された証拠収集とすぐに使えるコンプライアンスチェックにより、WizはAIシステムが安全に構築・運用されていることを証明するプロセスを簡素化し、監査の準備と規制要件の充足を支援します。
堅牢なAIセキュリティを確立するための次のステップ
本記事で紹介した8つのベストプラクティスは、既存のAIパイプラインを迅速に保護し、新たなAIソリューションの速やかな導入を可能にすることを目的としています。
進化し続けるAI環境とAIセキュリティという新興分野において、適応性と機動性を重視する姿勢は、AIを安全かつ効果的に統合しようとする組織にとって極めて重要です。
このアジャイルで標準化されたセキュリティフレームワークを確立するには、インフラストラクチャの保守だけでなく、プロセス改善を優先できるソリューションを検討してください。
クラウドネイティブアプリケーション保護プラットフォーム（CNAPP）であり、AIセキュリティ態勢管理（AI-SPM）機能を備えたWizは、ITおよびAIアプリケーション全体にわたる信頼性の高いセキュリティ基盤を提供します。
拡張された可視性と合理化されたガバナンスにより、WizのAI-SPMツールは、ベストプラクティスに基づくAIセキュリティ管理を標準機能としてサポートします。
WizのAI機能、Mika AIやWiz Blue Agentなどは、脅威調査の自動化、修復ワークフローの加速、セキュリティチームがベストプラクティスを大規模に実装するためのインテリジェントなインサイトの提供により、これらの機能をさらに強化します。
AI-SPMソリューションをご検討中ですか？すべてのセキュリティ組織が自問すべき4つの重要な質問をご紹介します：
- 自社の環境でどのAIサービスやテクノロジーが稼働しているかを把握していますか？
- 自社の環境におけるAIリスクを把握していますか？
- 重大なAIリスクに優先順位を付けることができますか？
- AI pipelinesにおける誤用を検出できますか？
AIの誤構成の自動検出、AI-BOMの管理、クラウド上のAIアプリケーションに対する攻撃経路の予防的な発見と排除が必要ですか？Wizがそれを実現します。
Wizは、Coalition for Secure AIの創設メンバーです。創設メンバーとして、Wizは他の業界リーダーとともに、AIサイバーセキュリティへの標準化されたアプローチの開発、ベストプラクティスの共有、AIセキュリティの研究と製品開発における協力に貢献しています。
詳細は、Wiz for AI-SPMのウェブページをご覧ください。ライブデモをご希望の場合は、ぜひお問い合わせください。
See how AI-APP connects the full stack
Experience Wiz's unified security graph mapping code, cloud, and runtime for your AI workloads.
