IA de sombra
La IA en la sombra es el uso o la implementación no autorizados de la IA que no está controlada por,
o visible para el departamento de TI de una organización. Los conjuntos de datos para la IA, los modelos de IA y los productos de IA se están
Lanzado todos los días para que cualquiera lo use, no se requiere una gran experiencia. Esto es especialmente cierto para los generativos
IA Cada vez más, las personas están adoptando GenAI en forma de asistentes personales, y muchos han llegado a confiar en
en la variedad de experiencias personalizadas y procesos optimizados que ofrece la IA.
Exposición accidental de datos
Los investigadores de IA a menudo comparten cantidades masivas de datos externos e internos para construir sus modelos de IA.
lo que plantea importantes riesgos de seguridad. Los equipos de seguridad deben establecer directrices claras para compartir conjuntos de datos de IA de forma externa.
El equipo de investigación de Wiz descubrió que 38 TB de datos fueron expuestos accidentalmente por investigadores de IA de Microsoft.
El uso de una cuenta de almacenamiento dedicada para conjuntos de datos públicos de IA podría haber limitado la exposición.
Vulnerabilidades de la cadena de suministro
La IA se basa en gran medida en conjuntos de datos, modelos y herramientas de canalización de código abierto con controles de seguridad limitados.
Las vulnerabilidades explotadas en la cadena de suministro no solo pueden comprometer el sistema de IA, sino que también pueden extenderse a otros componentes de producción.
Los ataques pueden implicar la subversión del modelo o la inyección de datos adversarios en conjuntos de datos comprometidos.
