IL BLOG DI VEGA: GUIDA SU AMBIENTE E SICUREZZA
Rischi dell’intelligenza artificiale: chi è il responsabile?
L’intelligenza artificiale (IA) è oggi una tecnologia cardine per la trasformazione digitale delle imprese, ma al tempo stesso porta con sé rischi complessi che richiedono una chiara attribuzione di responsabilità.
Secondo la definizione fornita dal Regolamento (UE) 2024/1689 (AI Act), l’IA è un sistema capace di elaborare dati di input e produrre output, come contenuti, previsioni o decisioni, che possono influenzare ambienti fisici o virtuali, simulando capacità umane come l’apprendimento e il ragionamento.
Proprio questa capacità autonoma di apprendere rende più complessa la gestione dei rischi dell’intelligenza artificiale, con possibili effetti su privacy, sicurezza, diritti fondamentali, equità e governance aziendale. In questo contesto, individuare chi è responsabile dei rischi dell’intelligenza artificiale in azienda è una priorità strategica e normativa per tutte le organizzazioni che utilizzano tali sistemi nei propri processi decisionali, produttivi o di gestione del personale.
Il presente approfondimento analizza in dettaglio:
- QUALI SONO I RISCHI DELL’INTELLIGENZA ARTIFICIALE IN AZIENDA?
- PERCHÉ LA GESTIONE DELLE RESPONSABILITÀ DELL’IA È UNA PRIORITÀ? IL CONTESTO NORMATIVO ITALIANO ED EUROPEO
- RESPONSABILITÀ LEGALI PER DANNI CAUSATI DALL’IA
- RESPONSABILITÀ ETICHE E ORGANIZZATIVE
- RESPONSABILITÀ DEL DATORE DI LAVORO: DELEGABILI O NON DELEGABILI?
- L'OBBLIGO DI FORMAZIONE SULL'INTELLIGENZA ARTIFICIALE
- LE FIGURE COINVOLTE: DISTINZIONE TRA FORNITORI, DISTRIBUTORI, IMPORTATORI E UTILIZZATORI (DEPLOYER)
QUALI SONO I RISCHI DELL’INTELLIGENZA ARTIFICIALE IN AZIENDA?
L’intelligenza artificiale offre grandi opportunità di innovazione, ma comporta anche rischi specifici che le imprese devono conoscere e gestire. Secondo il Parlamento Europeo (Quali sono i rischi e i vantaggi dell’intelligenza artificiale? 2025), questi riguardano soprattutto la sicurezza, l’etica, la trasparenza e la tutela dei diritti fondamentali.
Sul piano tecnico, i sistemi di IA possono subire errori, guasti o attacchi avversariali, cioè manipolazioni dei dati in grado di indurre decisioni errate, con possibili ripercussioni sui processi produttivi o sulla sicurezza.
Dal punto di vista etico e giuridico, i rischi principali sono la discriminazione algoritmica, la violazione della privacy e la mancanza di spiegabilità delle decisioni automatizzate, che può rendere difficile individuare le responsabilità.
Esistono infine impatti organizzativi e sociali, legati all’uso non governato dell’IA e alla possibile sostituzione di compiti umani, che impongono adeguati programmi di formazione e alfabetizzazione digitale.
Per questo, la valutazione dei rischi dell’intelligenza artificiale deve essere parte integrante della governance aziendale e coinvolgere le funzioni di compliance, sicurezza, RSPP e HSE.
PERCHÉ LA GESTIONE DELLE RESPONSABILITÀ DELL’IA È UNA PRIORITÀ? IL CONTESTO NORMATIVO ITALIANO ED EUROPEO 
La gestione dei rischi legati all’intelligenza artificiale rappresenta una priorità per le aziende perché l’adozione di sistemi IA introduce nuove tipologie di rischio, che vanno oltre quelle tradizionali associate all’IT e alla gestione dei dati.
Dal punto di vista normativo, da agosto 2024 nell’Unione Europea è in vigore il Regolamento AI Act che disciplina l’uso dei sistemi di intelligenza artificiale distinguendo tra quattro livelli di rischio (“minimal”, “limited”, “high”, “unacceptable”) e imponendo obblighi specifici per ciascuno di essi.
In Italia, la Legge 23 settembre 2025, n. 132, recante “Disposizioni e deleghe al Governo in materia di intelligenza artificiale”, entrata in vigore il 10 ottobre 2025, ha introdotto regole per lo sviluppo, l’adozione e l’uso delle nuove tecnologie, garantendo al contempo tutela dei diritti fondamentali, protezione dei lavoratori e alfabetizzazione digitale diffusa, per accompagnare cittadini e imprese nella trasformazione digitale del Paese.
Per l’azienda ciò significa che la gestione del rischio IA non è un optional: deve essere integrata nella governance, nei processi di sviluppo, uso e manutenzione dei sistemi IA. Inoltre, parlare di rischi e vantaggi nell’uso di sistemi di intelligenza artificiale significa bilanciare le opportunità con misure preventive efficaci.
RESPONSABILITÀ LEGALI PER DANNI CAUSATI DALL’IA
Quando un sistema di intelligenza artificiale genera un danno (es. errore decisionale, discriminazione, violazione dati), è essenziale chiarire chi risponde: l’azienda che impiega il sistema, il fornitore, il distributore, o un’altra figura?
I modelli tradizionali di responsabilità (come quelli previsti per prodotti o servizi) mostrano limiti nel contesto IA, caratterizzato da criticità inedite, come ad esempio: opacità algoritmica, apprendimento autonomo e continuo adattamento del sistema.
In sede aziendale diventa quindi necessario definire contratti, garanzie, coperture assicurative e politiche interne che includano il rischio derivante dall’applicazione dell’IA, la gestione dei reclami, la dimostrazione di conformità (compliance) e la tracciabilità delle decisioni automatizzate.
L’AI Act non sostituisce i regimi di responsabilità già esistenti (es. sicurezza sul lavoro, tutela dei dati personali), ma li espande al contesto dell’intelligenza artificiale, in un’ottica di responsabilità multilivello e condivisa.
In questa fase rilevante di sviluppo dell’intelligenza artificiale, il rapido evolversi del quadro normativo e tecnologico impone alle imprese un approccio integrato e proattivo, fondato su una solida cultura aziendale della responsabilità e della sicurezza digitale.
RESPONSABILITÀ ETICHE E ORGANIZZATIVE
Oltre agli obblighi legali, le imprese che adottano sistemi di IA devono affrontare la dimensione etica e organizzativa dei rischi IA. La governance aziendale deve pertanto interrogarsi su aspetti fondamentali: il sistema di IA rispetta i diritti fondamentali delle persone? I processi decisionali sono trasparenti e spiegabili? È attivo un monitoraggio continuo del rischio?
Le Linee Guida Etiche per un’Intelligenza Artificiale Affidabile (High-Level Expert Group on AI, Commissione Europea, 2019) individuano sette requisiti chiave che definiscono la responsabilità etica delle imprese:
- Supervisione e sorveglianza umane: l’uomo deve mantenere il controllo delle decisioni automatizzate, intervenendo quando necessario (human in the loop).
- Robustezza tecnica e sicurezza: l’IA deve essere affidabile, sicura, testata contro guasti o attacchi informatici.
- Privacy e governance dei dati: i dati devono essere gestiti con trasparenza, rispetto della privacy e qualità del dataset.
- Trasparenza: ogni processo automatizzato deve essere spiegabile e documentato in modo comprensibile.
- Diversità, non discriminazione ed equità: devono essere evitati i bias e garantita l’accessibilità universale.
- Benessere sociale e ambientale: l’IA deve contribuire al progresso collettivo e alla sostenibilità.
- Responsabilità: devono essere chiari i ruoli, le procedure di audit e i meccanismi di rimedio in caso di danno.
Tali requisiti devono essere valutati e considerati costantemente durante l’intero ciclo di vita del sistema di IA. Questi principi, originariamente elaborati dal Gruppo di esperti della Commissione Europea (2019), sono oggi ripresi e rafforzati dallo stesso AI Act, che fonda l’intero quadro normativo sull’obiettivo di un’‘intelligenza artificiale affidabile.
Dal punto di vista della cultura aziendale, è fondamentale che la responsabilità legata all’intelligenza artificiale non sia limitata all’area informatica, ma coinvolga anche la direzione aziendale, il comitato etico o dei rischi, le diverse funzioni operative e, ove pertinenti, il Servizio di Prevenzione e Protezione (RSPP) o l’HSE Manager, in caso di possibili rischi per la sicurezza o impatti sulla salute.
La consapevolezza dei rischi derivanti dall’applicazione di strumenti di intelligenza artificiale deve essere condivisa e diffusa in tutta l’organizzazione.
RESPONSABILITÀ DEL DATORE DI LAVORO: DELEGABILI O NON DELEGABILI?
Una domanda pratica: può il datore di lavoro delegare la responsabilità per i rischi dell’intelligenza artificiale? In linea generale il datore di lavoro rimane il responsabile ultimo dell’utilizzo dei sistemi di IA all’interno dell’organizzazione. Può delegare funzioni operative (ad es. manutenzione, cybersecurity, audit dei dati) ma non può delegare la responsabilità generale di vigilanza e conformità normativa.
Il datore di lavoro deve assicurarsi che la persona o ente delegato abbia competenze, risorse, potere decisionale adeguati e che sia monitorata. È consigliabile formalizzare la delega (contratto/accordo) e definire chiaramente KPI, responsabilità, reporting e auditing.
L'OBBLIGO DI FORMAZIONE SULL'INTELLIGENZA ARTIFICIALE
Il datore di lavoro deve promuovere un’adeguata alfabetizzazione in materia di intelligenza artificiale, intesa – secondo la definizione del Regolamento (UE) 2024/1689 – come l’insieme delle competenze, conoscenze e capacità di comprensione che consentono ai fornitori, agli utilizzatori e alle persone interessate di adottare e utilizzare in modo consapevole i sistemi di IA, comprendendone opportunità, rischi e potenziali danni.
Tale alfabetizzazione rappresenta un elemento essenziale della cultura aziendale della sicurezza digitale, poiché garantisce che la gestione dei rischi dell’intelligenza artificiale non sia confinata all’area IT, ma diffusa a tutti i livelli dell’organizzazione.
LE FIGURE COINVOLTE: DISTINZIONE TRA FORNITORI, DISTRIBUTORI, IMPORTATORI E UTILIZZATORI (DEPLOYER)
Nel contesto dell’IA è importante distinguere le figure coinvolte nella catena della responsabilità, in analogia ai modelli della regolamentazione sui prodotti:
- Fornitori (providers): coloro che progettano, sviluppano o rendono disponibile un sistema di IA. Hanno responsabilità di conformità, trasparenza, qualità dei dati, gestione del ciclo di vita del modello.
- Distributori/importatori: soggetti che introducono il sistema IA sul mercato o lo portano in ambito aziendale; possono avere responsabilità di verifica, di fornire adeguate informazioni al cliente, con particolare riferimento alle eventuali misure di mitigazione dei rischi residui.
- Utilizzatori o deployer (users/deployers): le aziende o gli enti che impiegano attivamente il sistema di IA, configurandolo, integrandolo nei propri processi, assumendosi la responsabilità dei risultati operativi.. Hanno la responsabilità di governare l’uso, controllare l’output, garantire formazione e supervisione ai singoli utenti.
Nel modello normativo delineato dall’AI Act, i fornitori e gli utilizzatori di sistemi di intelligenza artificiale sono soggetti a obblighi distinti e complementari.
Ad esempio, un sistema di IA classificato ad alto rischio richiede da parte del fornitore il rispetto dei requisiti di conformità tecnica e sicurezza, mentre l’utilizzatore è tenuto a effettuare verifiche operative e controlli di corretto impiego.
Per un’impresa ciò significa che la responsabilità non è concentrata in un solo soggetto, ma si distribuisce lungo l’intera catena di fornitura e di utilizzo.
UTILIZZATO IN QUESTO ARTICOLO?
Trova la risposta nel nostro Glossario, la prima raccolta di tutti gli acronimi e termini tecnici utilizzati in materia di Salute e Sicurezza sul Lavoro.
