IA de l’ombre
L’IA de l’ombre est l’utilisation ou la mise en œuvre non autorisée d’une IA qui n’est pas contrôlée par,
ou visibles par, le département informatique d’une organisation. Des ensembles de données pour l’IA, les modèles d’IA et les produits d’IA sont en cours
Disponible chaque jour pour que tout le monde puisse l’utiliser – aucune expertise approfondie n’est requise. C’est particulièrement vrai pour le génératif
L’IA De plus en plus, les gens adoptent la GenAI sous forme d’assistants personnels, et beaucoup en sont venus à dépendre
sur la variété d’expériences personnalisées et de processus optimisés offerts par l’IA.
Exposition accidentelle aux données
Les chercheurs en IA partagent souvent d’énormes quantités de données externes et internes pour construire leurs modèles d’IA,
ce qui présente des risques de sécurité importants. Les équipes de sécurité doivent établir des directives claires pour le partage externe des ensembles de données IA.
L’équipe de recherche de The Wiz a découvert que 38 To de données avaient été exposées accidentellement par des chercheurs en IA de Microsoft.
Utiliser un compte de stockage dédié pour les ensembles de données IA publics aurait pu limiter l’exposition.
Vulnérabilités de la chaîne d’approvisionnement
L’IA repose fortement sur des ensembles de données open source, des modèles et des outils de pipeline avec des contrôles de sécurité limités.
Les vulnérabilités exploitées dans la chaîne d’approvisionnement peuvent non seulement compromettre le système d’IA, mais s’étendre aussi à d’autres composants de production.
Les attaques peuvent impliquer la subversion de modèles ou l’injection de données adverses dans des ensembles de données compromis.