Shadow AI
IA sombra é o uso ou implementação não autorizada de IA que não é controlada por,
ou visível para o departamento de TI de uma organização. Conjuntos de dados para IA, modelos de IA e produtos de IA estão sendo
Lançado todos os dias para qualquer pessoa usar - não é necessário conhecimento profundo. Isso é especialmente verdadeiro para o generativo
A IA Cada vez mais, as pessoas estão adotando a GenAI na forma de assistentes pessoais, e muitos passaram a depender
sobre a variedade de experiências personalizadas e processos otimizados oferecidos pela IA.
Exposição acidental de dados
Pesquisadores de IA frequentemente compartilham grandes quantidades de dados externos e internos para construir seus modelos de IA,
o que representa riscos significativos de segurança. As equipes de segurança devem estabelecer diretrizes claras para o compartilhamento externo de conjuntos de dados de IA.
A equipe de pesquisa do Wiz descobriu que 38TB de dados foram expostos acidentalmente por pesquisadores de IA da Microsoft.
Usar uma conta de armazenamento dedicada para conjuntos de dados públicos de IA poderia ter limitado a exposição.
Vulnerabilidades na cadeia de suprimentos
A IA é fortemente baseada em conjuntos de dados, modelos e ferramentas de pipeline de código aberto, com controles de segurança limitados.
Vulnerabilidades exploradas na cadeia de suprimentos podem não apenas comprometer o sistema de IA, mas também se estender a outros componentes da produção.
Ataques podem envolver subversão de modelos ou injeção de dados adversariais em conjuntos de dados comprometidos.
