IA dell'ombra
L'IA Ombra è l'uso o l'implementazione non autorizzata di un'IA che non è controllata da,
o visibili al reparto IT di un'organizzazione. Sono disponibili dataset per IA, modelli di IA e prodotti di IA
Rilasciato ogni giorno per chiunque possa usarlo: non è richiesta una competenza approfondita. Questo è particolarmente vero per il generativo
L'IA Sempre più spesso, le persone stanno adottando la GenAI sotto forma di assistenti personali, e molti hanno iniziato a fare affidamento
sulla varietà di esperienze su misura e processi ottimizzati offerti dall'IA.
Esposizione accidentale ai dati
I ricercatori di IA spesso condividono enormi quantità di dati esterni e interni per costruire i loro modelli di IA,
il che comporta rischi significativi per la sicurezza. I team di sicurezza devono stabilire linee guida chiare per la condivisione esterna dei dataset di IA.
Il team di ricerca di Wiz ha scoperto che 38TB di dati sono stati accidentalmente esposti dai ricercatori di Microsoft AI.
Usare un account di archiviazione dedicato per dataset pubblici di IA avrebbe potuto limitare l'esposizione.
Vulnerabilità della catena di approvvigionamento
L'IA si basa fortemente su dataset open source, modelli e strumenti di pipeline con controlli di sicurezza limitati.
Le vulnerabilità sfruttate nella catena di approvvigionamento possono non solo compromettere il sistema di IA, ma anche estendersi ad altri componenti della produzione.
Gli attacchi possono coinvolgere la sovversione del modello o l'iniezione di dati avversariali in dataset compromessi.
