I sistemi di intelligenza artificiale impiegati in ambiti sensibili possono produrre conseguenze rilevanti sulla sicurezza, sui diritti delle persone e sulla continuità dei processi aziendali. La loro gestione richiede quindi controlli più rigorosi rispetto a quelli normalmente applicati ai sistemi informatici tradizionali.
Il corso fornisce un metodo operativo per identificare, valutare, mitigare e monitorare i rischi associati ai sistemi AI ad alto rischio. L’attenzione è concentrata sugli aspetti tecnici e organizzativi che devono essere gestiti durante l’intero ciclo di vita del sistema: dati, modelli, infrastrutture, sicurezza, prestazioni, logging, supervisione umana, gestione degli incidenti e controllo dei fornitori.
Attraverso esercitazioni, checklist e analisi di casi, i partecipanti imparano a costruire un sistema di controlli verificabile e documentato, collegando i requisiti dell’AI Act alle attività concrete dei team IT, cybersecurity, data management e risk management.
La gestione di un sistema AI ad alto rischio non può limitarsi a una verifica normativa iniziale. Richiede un processo continuativo che permetta di:
- individuare gli scenari di rischio;
- valutare probabilità, gravità e impatto;
- definire controlli preventivi, rilevativi e correttivi;
- verificare la qualità e l’idoneità dei dati;
- monitorare accuratezza, stabilità e sicurezza del sistema;
- garantire una supervisione umana effettiva;
- registrare anomalie, incidenti e azioni correttive;
- mantenere evidenze tecniche utilizzabili durante audit e controlli.
Il corso è rivolto principalmente a:
- responsabili e amministratori IT;
- system administrator;
- responsabili delle infrastrutture tecnologiche;
- specialisti di cybersecurity;
- tecnici coinvolti nell’implementazione di soluzioni AI;
- data engineer e machine learning engineer;
- responsabili di applicazioni e servizi digitali;
- IT risk manager;
- responsabili del monitoraggio e dei controlli interni;
- tecnici coinvolti nella gestione di fornitori e piattaforme AI;
- personale tecnico che collabora con AI Compliance Officer, DPO, Legal e Internal Audit.
Al termine del percorso i partecipanti saranno in grado di:
- riconoscere i principali criteri di classificazione dei sistemi AI ad alto rischio;
- comprendere ruoli e responsabilità di provider, deployer, importatori, distributori e soggetti coinvolti nella catena di fornitura;
- impostare un processo di AI risk management lungo il ciclo di vita del sistema;
- identificare rischi tecnici, operativi, organizzativi e di sicurezza;
- costruire un registro dei rischi AI;
- valutare qualità, rappresentatività, completezza e affidabilità dei dati;
- definire controlli su modelli, infrastrutture, accessi e interfacce;
- progettare meccanismi di logging, tracciabilità e monitoraggio;
- verificare accuratezza, robustezza e cybersicurezza;
- definire procedure di supervisione e intervento umano;
- gestire anomalie, malfunzionamenti e incidenti;
- predisporre evidenze e documentazione per audit interni e verifiche di conformità.
- Classificazione dei sistemi AI
- Ruoli e responsabilità
- Censimento iniziale
- Processo di gestione dei rischi
- Tassonomia dei rischi AI
- Valutazione e prioritizzazione
- Governance e qualità dei dati
- Controlli sul modello
- Logging e tracciabilità
- Cybersicurezza dei sistemi AI
- Human oversight
- Monitoraggio in esercizio
- Incident management
- Audit e documentazione
Il corso adotta un approccio operativo e laboratoriale. I contenuti normativi vengono tradotti in attività, controlli ed evidenze concretamente gestibili dai team tecnici.
La metodologia prevede:
- spiegazioni supportate da casi aziendali;
- analisi guidata di sistemi e processi AI;
- esercitazioni progressive;
- compilazione di registri, matrici e checklist;
- simulazione di anomalie e incidenti;
- confronto tra rischi, controlli e responsabilità;
- project work conclusivo.
Particolare attenzione viene dedicata all’integrazione dei controlli AI con i processi già presenti in azienda, come cybersecurity, change management, incident management, gestione dei fornitori, business continuity e internal audit.
È consigliata:
- una conoscenza generale dei sistemi informativi aziendali;
- la comprensione dei principali concetti di intelligenza artificiale e machine learning;
- una conoscenza di base dei processi di cybersecurity, gestione del rischio o controllo IT.
Non è richiesta la capacità di sviluppare algoritmi o modelli di machine learning.
Verifica dell’apprendimento
La verifica potrà avvenire attraverso:
esercitazioni;
discussione di casi;
valutazione degli elaborati prodotti;
test finale;
eventuale presentazione del project work.
Attestato
Al termine del corso verrà rilasciato un attestato di partecipazione subordinatamente alla frequenza minima prevista, oppure un attestato di frequenza positiva rafforzato dall'esito positivo del test finale.
Al termine del corso l’organizzazione disporrà di personale tecnico maggiormente preparato a:
- riconoscere i sistemi AI che richiedono controlli rafforzati;
- partecipare alla valutazione dei rischi;
- implementare misure tecniche e organizzative;
- controllare dati, modelli, infrastrutture e accessi;
- monitorare il comportamento del sistema in produzione;
- collaborare alla gestione di anomalie e incidenti;
- produrre evidenze utili per audit e verifiche;
- supportare concretamente le funzioni di AI Governance e AI Compliance.
