IA ombra
L'IA ombra è l'uso o l'implementazione non autorizzata dell'IA che non è controllata da,
o visibile al reparto IT di un'organizzazione. I set di dati per l'intelligenza artificiale, i modelli di intelligenza artificiale e i prodotti di intelligenza artificiale sono in fase di
rilasciato ogni giorno per l'uso da parte di chiunque, senza bisogno di competenze approfondite. Ciò è particolarmente vero per i generativi
Sempre più persone adottano GenAI sotto forma di assistenti personali e molti si affidano
sulla varietà di esperienze su misura e processi ottimizzati offerti dall'AI.
Esposizione accidentale dei dati
I ricercatori di intelligenza artificiale spesso condividono enormi quantità di dati esterni e interni per costruire i loro modelli di intelligenza artificiale,
che pone rischi significativi per la sicurezza. I team di sicurezza devono stabilire linee guida chiare per la condivisione esterna dei set di dati di intelligenza artificiale.
Il team di ricerca di Wiz ha scoperto che 38 TB di dati sono stati esposti accidentalmente dai ricercatori di intelligenza artificiale di Microsoft.
L'uso di un account di archiviazione dedicato per i set di dati di intelligenza artificiale pubblici potrebbe aver limitato l'esposizione.
Vulnerabilità della catena di approvvigionamento
L'intelligenza artificiale si basa fortemente su set di dati, modelli e strumenti di pipeline open source con controlli di sicurezza limitati.
Le vulnerabilità sfruttate nella catena di approvvigionamento possono non solo compromettere il sistema di intelligenza artificiale, ma estendersi anche ad altri componenti della produzione.
Gli attacchi possono comportare la sovversione del modello o l'iniezione di dati avversari in set di dati compromessi.
