シャドーAI
Shadow AIとは、以下によって制御されていないAIの不正使用または実装です。
または、組織の IT 部門から見えるようにすることができます。AI、AIモデル、AI製品のデータセットは、
誰でも使用できるように毎日リリースされており、深い専門知識は必要ありません。これは特にジェネレーティブに当てはまります
AI ますます、人々はパーソナルアシスタントの形でGenAIを採用するようになり、多くの人が頼るようになりました
AIが提供するさまざまなカスタマイズされたエクスペリエンスと最適化されたプロセスについて。
偶発的なデータ漏洩
AI研究者は、AIモデルを構築するために、大量の外部データと内部データを共有することがよくあります。
これは重大なセキュリティリスクをもたらします。セキュリティチームは、AIデータセットを外部と共有するための明確なガイドラインを確立する必要があります。
Wizの研究チームは、38TBのデータがMicrosoftのAI研究者によって誤って公開されたことを発見しました。
パブリック AI データセット専用のストレージ アカウントを使用すると、露出が制限される可能性があります。
サプライチェーンの脆弱性
AIは、オープンソースのデータセット、モデル、パイプラインツールに大きく依存しており、セキュリティ制御は限られています。
サプライチェーンで悪用される脆弱性は、AIシステムを危険にさらすだけでなく、他の生産コンポーネントにも広がる可能性があります。
攻撃には、モデル破壊や、侵害されたデータセットへの敵対的データの挿入が含まれる場合があります。