IA das sombras
Shadow AI é o uso ou implementação não autorizada de IA que não é controlada por,
ou visível para o departamento de TI de uma organização. Conjuntos de dados para IA, modelos de IA e produtos de IA estão sendo
Lançado todos os dias para qualquer pessoa usar - sem necessidade de conhecimento profundo. Isso é especialmente verdadeiro para generativos
IA Cada vez mais, as pessoas estão adotando o GenAI na forma de assistentes pessoais, e muitos passaram a confiar
na variedade de experiências personalizadas e processos otimizados oferecidos pela IA.
Exposição acidental de dados
Os pesquisadores de IA geralmente compartilham grandes quantidades de dados externos e internos para construir seus modelos de IA,
que representa riscos de segurança significativos. As equipes de segurança devem estabelecer diretrizes claras para compartilhar conjuntos de dados de IA externamente.
A equipe de pesquisa da Wiz descobriu que 38 TB de dados foram acidentalmente expostos por pesquisadores de IA da Microsoft.
O uso de uma conta de armazenamento dedicada para conjuntos de dados públicos de IA poderia ter limitado a exposição.
Vulnerabilidades da cadeia de suprimentos
A IA é fortemente baseada em conjuntos de dados, modelos e ferramentas de pipeline de código aberto com controles de segurança limitados.
As vulnerabilidades exploradas na cadeia de suprimentos podem não apenas comprometer o sistema de IA, mas também se estender a outros componentes de produção.
Os ataques podem envolver subversão de modelo ou injeção de dados adversários em conjuntos de dados comprometidos.
