AI Risk Management: identificare, valutare e gestire i rischi dell’Intelligenza Artificiale (605090)

L’adozione dell’Intelligenza Artificiale introduce opportunità significative, ma anche nuove categorie di rischio: errori e allucinazioni, discriminazioni algoritmiche, utilizzo improprio dei dati, vulnerabilità di sicurezza, scarsa trasparenza, dipendenza dai fornitori, violazioni normative e conseguenze reputazionali.

Il corso AI Risk Management: identificare, valutare e gestire i rischi dell’Intelligenza Artificiale fornisce un metodo strutturato per individuare, analizzare, valutare, trattare e monitorare i rischi connessi allo sviluppo, all’acquisto e all’utilizzo di sistemi di IA.

Il percorso considera l’intero ciclo di vita del sistema, dalla selezione del caso d’uso alla dismissione, e collega la gestione dei rischi alle responsabilità organizzative, alle procedure di governance, ai controlli interni e agli obblighi introdotti dall’EU AI Act.

Particolare attenzione viene dedicata ai principali framework internazionali, tra cui:

Regolamento europeo sull’Intelligenza Artificiale – EU AI Act;
ISO/IEC 23894 per la gestione dei rischi dell’IA;
ISO/IEC 42001 per i sistemi di gestione dell’Intelligenza Artificiale;
NIST AI Risk Management Framework;
NIST AI RMF Generative AI Profile;
principi di risk management applicabili ai sistemi digitali e algoritmici.

Il corso ha un’impostazione pratica. I partecipanti lavorano sulla classificazione dei casi d’uso, sulla costruzione di un registro dei rischi e sulla definizione di controlli, responsabilità e indicatori di monitoraggio.

Il corso è rivolto a:

AI Governance Manager;
AI Compliance Officer;
Risk Manager;
Compliance Manager;
Data Protection Officer;
responsabili legali e affari societari;
responsabili IT e cybersecurity;
Chief Information Officer;
Chief Data Officer;
responsabili innovazione e trasformazione digitale;
Internal Auditor;
responsabili qualità e sistemi di gestione;
project manager di iniziative basate sull’IA;
data scientist e responsabili di sistemi di machine learning;
consulenti di direzione, compliance e organizzazione;
dirigenti e funzionari delle Pubbliche Amministrazioni;
responsabili di aziende che acquistano o utilizzano soluzioni di Intelligenza Artificiale.

Al termine del percorso i partecipanti saranno in grado di:

comprendere le caratteristiche specifiche dei rischi associati all’IA;
distinguere rischio tecnico, operativo, normativo, etico e reputazionale;
classificare i sistemi di IA in base al livello di rischio;
applicare un processo strutturato di AI Risk Assessment;
identificare minacce, vulnerabilità, impatti e soggetti interessati;
valutare probabilità, gravità e livello complessivo del rischio;
costruire e mantenere un registro dei rischi dell’IA;
definire misure di prevenzione, mitigazione e controllo;
collegare il risk management agli obblighi dell’EU AI Act;
integrare la gestione dei rischi nel ciclo di vita dei sistemi di IA;
valutare i rischi derivanti da fornitori, modelli e servizi di terze parti;
monitorare nel tempo prestazioni, incidenti e rischi residui;
predisporre evidenze, responsabilità e documentazione per audit e verifiche.

1. Fondamenti di AI Risk Management

Che cosa si intende per rischio dell’Intelligenza Artificiale.
Differenze tra rischi dell’IA e rischi dei sistemi informatici tradizionali.
Incertezza, autonomia, adattività e opacità dei sistemi algoritmici.
Il rischio lungo il ciclo di vita del sistema.
Soggetti esposti e portatori di interesse.
Conseguenze per persone, organizzazioni e società.
Rischio inerente, rischio residuo e propensione al rischio.
Rapporto tra rischio, affidabilità e uso responsabile dell’IA.
Collegamento tra AI Governance, AI Compliance e AI Risk Management.

2. Il modello di rischio dell’EU AI Act

L’approccio basato sul rischio del Regolamento europeo.
Sistemi e pratiche di IA vietate.
Sistemi di IA ad alto rischio.
Sistemi soggetti a obblighi di trasparenza.
Sistemi a rischio limitato o minimo.
Ruoli di provider, deployer, importatore e distributore.
Sistema di gestione del rischio per i sistemi ad alto rischio.
Identificazione e analisi dei rischi noti e ragionevolmente prevedibili.
Valutazione dei rischi derivanti dall’uso previsto e dall’uso improprio prevedibile.
Misure di mitigazione e rischio residuo.
Test, validazione e monitoraggio.
Obblighi connessi a sorveglianza umana, accuratezza, robustezza e sicurezza.
Monitoraggio successivo all’immissione sul mercato.
Incidenti, non conformità e azioni correttive.

L’EU AI Act richiede, per i sistemi ad alto rischio, un processo continuativo e iterativo di gestione del rischio esteso all’intero ciclo di vita del sistema.

3. Principali categorie di rischio dell’IA

Rischi per salute, sicurezza e diritti fondamentali.
Discriminazione e bias algoritmico.
Qualità, completezza e rappresentatività dei dati.
Errori, risultati inattendibili e allucinazioni.
Automazione eccessiva e perdita del controllo umano.
Scarsa trasparenza e limitata spiegabilità.
Violazione della privacy e uso improprio dei dati.
Proprietà intellettuale, copyright e riservatezza.
Cybersecurity e attacchi ai sistemi di IA.
Data poisoning, prompt injection e manipolazione degli input.
Model extraction e sottrazione delle informazioni.
Rischi associati all’IA generativa.
Produzione di contenuti falsi, dannosi o inappropriati.
Rischi reputazionali e perdita di fiducia.
Dipendenza tecnologica e vendor lock-in.
Rischi ambientali e consumo di risorse.
Rischi derivanti da fornitori e componenti di terze parti.

4. ISO/IEC 23894 e gestione dei rischi dell’IA

Finalità e campo di applicazione della ISO/IEC 23894.
Integrazione del rischio IA nei processi aziendali.
Definizione del contesto interno ed esterno.
Identificazione degli stakeholder.
Definizione dei criteri di rischio.
Identificazione, analisi e valutazione dei rischi.
Trattamento del rischio.
Comunicazione e consultazione.
Monitoraggio e riesame.
Registrazione e reporting.
Collegamento tra gestione del rischio e ciclo di vita dell’IA.
Integrazione con i sistemi di Enterprise Risk Management.

La ISO/IEC 23894 fornisce indicazioni specifiche per le organizzazioni che sviluppano, producono, distribuiscono o utilizzano prodotti, sistemi e servizi basati sull’IA.

5. ISO/IEC 42001 e sistema di gestione dell’IA

Introduzione all’Artificial Intelligence Management System.
Contesto dell’organizzazione.
Leadership e responsabilità.
Politica per l’Intelligenza Artificiale.
Pianificazione di rischi e opportunità.
Controlli organizzativi e operativi.
Gestione delle risorse e delle competenze.
Valutazione degli impatti dei sistemi di IA.
Gestione dei fornitori.
Monitoraggio delle prestazioni.
Audit interno e riesame della direzione.
Non conformità e miglioramento continuo.
Collegamento tra ISO/IEC 42001 e AI Risk Management.

La ISO/IEC 42001 definisce i requisiti per istituire, attuare, mantenere e migliorare continuamente un sistema di gestione dell’Intelligenza Artificiale.

6. NIST AI Risk Management Framework

Finalità e struttura del NIST AI RMF.
Caratteristiche di un sistema di IA affidabile.
Validità e affidabilità.
Sicurezza, resilienza e robustezza.
Accountability e trasparenza.
Spiegabilità e interpretabilità.
Privacy.
Equità e gestione dei bias.
La funzione Govern.
La funzione Map.
La funzione Measure.
La funzione Manage.
Definizione dei profili di rischio.
Utilizzo del NIST AI RMF Playbook.
NIST Generative AI Profile.
Confronto tra NIST AI RMF, ISO/IEC 23894 e ISO/IEC 42001.

Il NIST AI RMF è un framework volontario e indipendente dal settore, progettato per aiutare le organizzazioni a gestire i rischi dell’IA e promuovere sistemi affidabili e responsabili.

7. Realizzare un AI Risk Assessment

Definizione del perimetro della valutazione.
Descrizione del sistema e del caso d’uso.
Finalità prevista e contesto operativo.
Identificazione degli utenti e dei soggetti interessati.
Mappatura di dati, modelli, componenti e fornitori.
Individuazione delle decisioni supportate o automatizzate.
Identificazione di minacce, vulnerabilità e scenari di rischio.
Valutazione della probabilità.
Valutazione della gravità degli impatti.
Costruzione di una matrice probabilità-impatto.
Definizione del livello di rischio.
Valutazione del rischio inerente.
Identificazione dei controlli esistenti.
Valutazione dell’efficacia dei controlli.
Determinazione del rischio residuo.
Accettazione, mitigazione, trasferimento o cessazione del rischio.
Definizione del piano di trattamento.

8. Registro dei sistemi e registro dei rischi IA

Inventario dei sistemi di Intelligenza Artificiale.
Informazioni da raccogliere per ciascun sistema.
Proprietario del sistema e responsabile del rischio.
Classificazione normativa e organizzativa.
Descrizione del rischio.
Cause, eventi e conseguenze.
Controlli preventivi, rilevativi e correttivi.
Responsabile dell’azione di mitigazione.
Scadenze e priorità di intervento.
Indicatori di rischio.
Evidenze documentali.
Stato del trattamento.
Aggiornamento periodico del registro.
Collegamento con registro dei trattamenti, DPIA, gestione degli asset e controlli di sicurezza.

9. Misure di trattamento e controllo

Eliminazione o modifica del caso d’uso.
Riduzione dell’automazione.
Human-in-the-loop e human oversight.
Controlli sulla qualità dei dati.
Test di accuratezza, robustezza e non discriminazione.
Validazione indipendente.
Controlli sugli input e sugli output.
Filtri e guardrail.
Logging e tracciabilità.
Gestione degli accessi.
Protezione delle informazioni riservate.
Red teaming e test avversariali.
Gestione delle modifiche.
Formazione degli utenti.
Procedure di escalation.
Kill switch e procedure di sospensione.
Piani di continuità e risposta agli incidenti.

10. Rischio dei fornitori e dei servizi di IA

Valutazione preventiva del fornitore.
Due diligence su modelli, piattaforme e servizi cloud.
Verifica delle condizioni contrattuali.
Localizzazione e utilizzo dei dati.
Proprietà degli input e degli output.
Riservatezza e utilizzo dei dati per l’addestramento.
Livelli di servizio e responsabilità.
Trasparenza sulla catena di fornitura.
Modelli open source e modelli proprietari.
Dipendenza da API e servizi esterni.
Monitoraggio delle prestazioni del fornitore.
Exit strategy e portabilità.
Clausole per audit, incidenti e modifiche del servizio.

11. Monitoraggio, incident management e reporting

Monitoraggio continuo dei sistemi di IA.
Definizione di Key Risk Indicator.
Drift dei dati e del modello.
Deterioramento delle prestazioni.
Segnalazioni degli utenti.
Identificazione e classificazione degli incidenti.
Escalation e responsabilità.
Analisi delle cause.
Azioni correttive e preventive.
Sospensione o dismissione del sistema.
Reporting verso direzione e organi di controllo.
Riesame periodico del profilo di rischio.
Conservazione delle evidenze.
Audit del processo di AI Risk Management.

12. Laboratorio operativo

Durante il laboratorio i partecipanti sviluppano, individualmente o in gruppo, una valutazione dei rischi riferita a un caso d’uso aziendale.

Il lavoro comprende:

descrizione del sistema di IA;
classificazione del livello di rischio;
identificazione degli stakeholder;
individuazione dei principali scenari di rischio;
valutazione di probabilità e impatto;
compilazione della matrice dei rischi;
identificazione dei controlli esistenti;
definizione delle misure di mitigazione;
attribuzione delle responsabilità;
valutazione del rischio residuo;
definizione degli indicatori di monitoraggio;
presentazione del piano di trattamento.

Il corso è in modalità formazione a distanza, online live streaming, cioè con il docente in diretta che tiene la lezione.

I partecipanti dovranno essere dotati di pc o laptop con accesso Internet.

Le lezioni saranno registrate e le registrazioni verranno messe a disposizione dei partecipanti per 2 mesi dalla fine delle lezioni.

Coloro che avranno frequentato almeno l'80% delle ore di corso riceveranno un attestato di frequenza.

Non sono richieste competenze di programmazione o conoscenze specialistiche di machine learning.

È consigliabile possedere:

una conoscenza generale dei processi aziendali;
nozioni di base sull’Intelligenza Artificiale;
una conoscenza introduttiva dell’EU AI Act;
esperienza in ambito risk management, compliance, privacy, qualità, IT o sicurezza.