L’IA entra nei processi aziendali critici più in fretta di quanto governance, sicurezza e risposta agli incidenti riescano ad adeguarsi: per il rapporto «Building Resilient AI» i rischi che ne derivano vanno trattati come una questione di resilienza aziendale.
AXA XL, la divisione di AXA dedicata ai rami property, casualty e specialty, ed S-RM, società di consulenza globale specializzata in intelligence e sicurezza informatica, hanno pubblicato il rapporto “Building Resilient AI: Managing AI risk through governance, security and resilience” (Costruire un’IA resiliente: gestire i rischi legati all’IA attraverso la governance, la sicurezza e la resilienza).
L’IA corre più veloce della governance
Il rapporto avverte che l’IA si sta integrando nei processi aziendali critici a un ritmo più rapido rispetto alla capacità di molte organizzazioni di adeguare le proprie risorse in materia di governance, sicurezza e risposta agli incidenti. Esorta i leader aziendali a considerare i rischi legati all’IA come una questione di resilienza aziendale piuttosto che come un problema esclusivamente tecnologico o di conformità.
La portata della sfida sta crescendo rapidamente. Secondo l’indagine “2026 State of AI” di McKinsey & Company, l’88% delle organizzazioni dichiara oggi di utilizzare l’IA in almeno una funzione aziendale. Il nuovo rapporto suggerisce che l’IA stia creando ulteriori potenziali punti di accesso per le minacce informatiche e introducendo nuove forme di rischio operativo, normativo e legato a terze parti.
Le cinque priorità per i leader aziendali
Man mano che i sistemi di IA acquisiscono maggiore accesso a dati sensibili, applicazioni aziendali e processi decisionali, il rapporto individua cinque priorità per i leader aziendali:
- Definire chiaramente le responsabilità relative all’IA in tutta l’azienda, comprese le implementazioni formali, le funzionalità software integrate e la shadow AI
- Proteggere i dati sensibili e rafforzare i controlli di identità e accesso man mano che i sistemi di IA diventano più autonomi
- Gestire i rischi legati all’IA durante tutto il suo ciclo di vita, dalla raccolta dei dati e dallo sviluppo dei modelli fino all’implementazione, al monitoraggio e alla risposta agli incidenti
- Applicare una governance rigorosa ed una due diligence nei confronti dei fornitori di IA e di altre terze parti critiche
- Prepararsi a scenari di sinistro legati all’IA che possono riguardare la sicurezza informatica, le frodi, la responsabilità civile, l’interruzione dell’attività e altre aree di copertura assicurativa
Salter: «La governance non sempre riesce a tenere il passo»
«L’intelligenza artificiale sta passando dalla fase sperimentale a quella di integrazione nei sistemi e nei processi su cui le organizzazioni fanno affidamento quotidianamente, ma la governance non sempre riesce a tenere il passo», ha affermato Jonathan Salter, Head of Risk Consulting presso AXA XL. «Le organizzazioni meglio posizionate per cogliere il valore dell’intelligenza artificiale saranno quelle che sanno dove viene utilizzata, comprendono le conseguenze aziendali in caso di malfunzionamento e integrano fin dall’inizio sicurezza e resilienza nella sua implementazione.»
Bardot-Girard: «I rischi legati all’IA raramente si manifestano in modo isolato»
«I rischi legati all’IA raramente si manifestano in modo isolato», ha affermato Rebiah Bardot-Girard, Head of Cyber Risk Consulting Services presso AXA XL. «Essi amplificano le debolezze esistenti nella gestione delle identità, nella governance dei dati, nella supervisione dei fornitori e nella preparazione agli incidenti. Un inventario pratico su dove viene utilizzata l’IA, a quali dati può accedere e dove può intraprendere o influenzare azioni è ormai un punto di partenza fondamentale per la resilienza.»
Cinque pilastri per un’IA sicura fin dalla progettazione
Il rapporto esamina rischi quali la fuga di dati, la manipolazione dei modelli, l’iniezione di prompt, i risultati inaffidabili, la shadow AI e gli agenti eccessivamente autonomi. Definisce cinque pilastri fondamentali per un’IA sicura fin dalla progettazione: una solida governance dei dati, modelli e applicazioni sicuri, la resilienza dell’ecosistema, controlli di accesso rigorosi ed un monitoraggio continuo.
La valutazione prima dell’implementazione non basta
I risultati indicano inoltre che alcune organizzazioni stanno rafforzando la propria supervisione: secondo il World Economic Forum, il 64% valuta ora la sicurezza degli strumenti di IA prima della loro implementazione, rispetto al 37% dell’anno precedente. Tuttavia, la valutazione pre-implementazione non è sufficiente. Con il progressivo accesso dell’IA a dati sensibili, applicazioni aziendali e processi decisionali, le organizzazioni rimangono esposte a rischi a meno che la supervisione non prosegua durante l’implementazione e il funzionamento.
AXA XL e S-RM uniscono consulenza sui rischi, competenze nel campo della sicurezza informatica e conoscenze assicurative per aiutare le organizzazioni a rafforzare la governance, testare scenari di incidenti e prendere decisioni informate in materia di mitigazione e trasferimento del rischio.
